Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6943295B2 - 学習装置、学習方法、および学習プログラム - Google Patents
[go: Go Back, main page]

JP6943295B2 - 学習装置、学習方法、および学習プログラム - Google Patents

学習装置、学習方法、および学習プログラム Download PDF

Info

Publication number
JP6943295B2
JP6943295B2 JP2019559492A JP2019559492A JP6943295B2 JP 6943295 B2 JP6943295 B2 JP 6943295B2 JP 2019559492 A JP2019559492 A JP 2019559492A JP 2019559492 A JP2019559492 A JP 2019559492A JP 6943295 B2 JP6943295 B2 JP 6943295B2
Authority
JP
Japan
Prior art keywords
data
feature amount
parameter
learning
values
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019559492A
Other languages
English (en)
Other versions
JPWO2019116496A1 (ja
Inventor
和俊 鷺
和俊 鷺
貴裕 戸泉
貴裕 戸泉
裕三 仙田
裕三 仙田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2019116496A1 publication Critical patent/JPWO2019116496A1/ja
Application granted granted Critical
Publication of JP6943295B2 publication Critical patent/JP6943295B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/89—Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • G01S13/90—Radar or analogous systems specially adapted for specific applications for mapping or imaging using synthetic aperture techniques, e.g. synthetic aperture radar [SAR] techniques
    • G01S13/9021—SAR image post-processing techniques
    • G01S13/9027—Pattern recognition for feature extraction
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本開示は、コンピュータが行う学習の技術に関する。
データにおいて示された対象の分類を行う、分類器を構築する上で、対象の特徴を良く表す変数を用いることが、分類の精度の向上につながる。入力されたデータから対象の特徴を良く表す変数を導出する方法として、オートエンコーダ（自己符号化器）を使う方法が、良く知られている。
典型的なオートエンコーダは、入力層、中間層、および出力層からなる。典型的なオートエンコーダは、入力層に入力されるデータと出力層により出力されるデータとの比較に基づき、符号化（すなわち、入力層のデータから中間層のデータへの変換）に用いられる重みおよびバイアスと、復号（すなわち、中間層のデータから出力層のデータへの変換）に用いられる重みおよびバイアスと、を最適な値へと決定する。
オートエンコーダによる学習の結果決定された重みとバイアスとを用いた符号化によって中間層において出力されるデータは、対象の特徴を良く表す情報とみなすことができる。この中間層において出力されるデータは、一般的には、「特徴量ベクトル」、「特徴ベクトル」、または単に「特徴量」や「特徴」と呼ばれる。本開示では、中間層において出力されるデータを、「潜在変数の値の組」または「潜在変数ベクトル」とも呼ぶ。
特許文献１は、本願発明に関連する技術を記載する文献である。特許文献１は、画像における対象の大きさ、回転角度、および位置等を、識別を行うために適した状態に変換する（別の言葉では、正規化する）画像処理装置を開示している。正規化するための変換の大きさは、画像が粗視化された後のデータを非線形変換によって空間Ｆに写像した時のベクトル（写像ベクトル）と、学習サンプルの特徴を表す基底ベクトルを含む部分空間との関係に基づいて決まる係数によって決められる。この技術にオートエンコーダを用いる場合、オートエンコーダの出力層の出力が上記の非線形変換による写像に相当し、中間層の出力が写像ベクトルの部分空間への射影に相当する、ということが、特許文献１には記載されている。
特開２００４−６２７１９号公報
一般的なオートエンコーダにより最適化されたニューラルネットワークにより導出される特徴量ベクトルは、必ずしも、異なる態様をとる同一の対象に対し、互いに関連するようには表されない。そのため、例えば、一般的なオートエンコーダにより最適化されたニューラルネットワークにより導出される特徴量ベクトルを用いて、画像に写る椅子を椅子に分類するための分類器を、図１Ａで示される向きで撮影された椅子の画像ばかりを学習用データとして使用した学習により生成したとする。そのような場合、生成した分類器は、図１Ｂで示される向きや、図１Ｃで示されるアングルで撮影された椅子を、椅子と識別できないことがある。これは、同一の対象であっても、互いに異なる態様（上記の例では、向きやアングル）で記録されたデータからは、互いに無関係な特徴量ベクトルが導出され得るからである。
様々な態様をとりうる対象物を正しく識別するためには、一般的には、分類器の学習において様々な態様を網羅した学習用データを用いる必要がある。しかし、様々な態様を網羅した学習用データを用意することは、必ずしも容易ではない。
特許文献１に記載の技術は、画像を正規化することにより様々な態様をとりうる対象に対する識別の性能を向上させる技術である。しかし、この正規化を行うための関数は、様々な態様で対象が写る画像を学習用データとした学習によって導出される必要がある。なお、対象の識別を行うパターン識別部１００は、正規化された画像を識別の対象とするので、学習用データに含まれていない態様をとっている対象を正しく識別する保証はない。
本発明は、同一の対象について、異なる態様の該対象の特徴をそれぞれ表現し、かつ互いに関連性を持つ特徴量を、導出可能な特徴導出器を生成できる学習装置を提供することを、目的の１つとする。
本発明の一態様に係る学習装置は、対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得手段と、前記第１のデータから第１の特徴量を導出するエンコード手段と、前記第１の特徴量を第２の特徴量に変換する変換手段と、前記第２の特徴量から第３のデータを生成するデコード手段と、前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新手段と、を備える。
本発明の一態様に係る学習方法は、対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得し、前記第１のデータから第１の特徴量を導出し、前記第１の特徴量を第２の特徴量に変換し、前記第２の特徴量から第３のデータを生成し、前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新する。
本発明の一態様に係る記憶媒体は、対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得処理と、前記第１のデータから第１の特徴量を導出するエンコード処理と、前記第１の特徴量を第２の特徴量に変換する変換処理と、前記第２の特徴量から第３のデータを生成するデコード処理と、前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新処理と、をコンピュータに実行させるプログラムを記憶する。上記記憶媒体は、例えば、コンピュータ読み取り可能な、非一時的な記憶媒体である。
本発明によれば、同一の対象について、異なる態様の該対象の特徴をそれぞれ表現し、かつ互いに関連性を持つ特徴量を、導出可能な特徴導出器を生成できる。
対象が記録されたデータの例を示す図である。 別の態様の対象が記録されたデータの例を示す図である。 別の態様の対象が記録されたデータの別の例を示す図である。 本発明の第１の実施形態に係る学習装置の構成を示すブロック図である。 変数変換に用いられる行列の例を示す図である。 第１の実施形態に係る学習装置による出力データの生成の過程を説明する概念図である。 第１の実施形態に係る学習装置の動作の流れを示すフローチャートである。 本発明の一実施形態に係る学習装置の構成を示すブロック図である。 本発明の一実施形態に係る学習装置による学習方法の処理の流れを示すブロック図である。 本発明の各実施形態の各部を構成するハードウェアの例を示すブロック図である。
以下、図面を参照しながら、本発明の実施形態を詳細に説明する。
＜＜第１の実施形態＞＞
まず、本発明の第１の実施形態について説明する。
＜構成＞
図２は、第１の実施形態に係る学習装置１１の構成を示すブロック図である。
学習装置１１は、データ取得部１１１と、エンコーダ１１２と、変換部１１３と、デコーダ１１４と、パラメータ更新部１１５と、出力部１１６と、パラメータ記憶部１１９と、を備える。
データ取得部１１１と、エンコーダ１１２と、変換部１１３と、デコーダ１１４と、パラメータ更新部１１５と、出力部１１６と、は、例えば、プログラムを実行する１つまたは複数のＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）により実現される。
パラメータ記憶部１１９は、例えば、メモリである。パラメータ記憶部１１９は、ハードディスク等の補助記憶装置でもよい。別の実施形態では、パラメータ記憶部１１９は学習装置１１の外部にあり、有線または無線により学習装置１１と通信可能であるように構成されていてもよい。パラメータ記憶部１１９は、エンコーダ１１２が行う変換において用いられるパラメータと、デコーダ１１４が行う変換において用いられるパラメータと、を記憶する。
なお、学習装置１１は、パラメータ記憶部１１９とは別に、データを一時的又は非一時的に記憶する記憶装置を備えていてもよい。
＝＝＝データ取得部１１１＝＝＝
データ取得部１１１は、学習装置１１が使用するデータを取得する。学習装置１１が使用するデータは、入力データ、正解データ、および、入力データと正解データとの関係を示す差異情報である。
入力データは、学習装置１１による学習の対象が記録されたデータである。理解を容易にするため、本実施形態の説明では、入力データの一例として、光学画像を想定する。光学画像以外の入力データの例は、「補足」の項目で説明する。
入力データが光学画像である場合、入力データは、対象（例えば、物体および人物等）が写った画像である。入力データは、例えば、画像の各画素の画素値を成分とするベクトルである。縦２８画素、横２８画素のグレースケールの画像を入力データとする場合、入力データの成分の数は、２８×２８＝７８４である。
画像のサイズはどのようなサイズでもよい。画素値は、０から２５５の整数値でも、０か１かのバイナリの値でも、浮動小数点数でもよい。色の種類は１つでも、２つ以上でもよい。色の種類が複数種類である場合は、その種類の数に比例して、入力データの成分数は増加する。入力データの例として、ＲＧＢ画像、マルチスペクトルの画像、ハイパースペクトルの画像等が挙げられる。
データ取得部１１１は、入力データを、例えば、学習装置１１の内部または外部にある記憶装置から受け取ることにより、取得する。学習装置１１が、カメラ等、入力データを取得可能なデバイスを含み、データ取得部１１１はそのデバイスから入力データを受け取ってもよい。
正解データは、学習装置１１による学習、具体的には、後述するパラメータ更新部１１５によるパラメータの値の更新において、使用されるデータである。
正解データは、入力データにより示される対象が記録されたデータである。少なくとも一つの正解データは、入力データにより示される対象が、入力データにおける態様とは異なる態様で記録された、データである。入力データおよび正解データが画像である場合、態様は「写り方」または「見え方」と言い換えられてもよい。画像における態様の例としては、向き、アングル、姿勢、大きさ、歪み方、色合い、鮮明さ、等が挙げられる。入力データと正解データとの間で異なり得る態様は、予め定義される。つまり、学習装置１１は、少なくとも１つの特定の態様が異なる、入力データと正解データとのセットを扱う。なお、学習装置１１は、入力データを、正解データの一つとして扱ってもよい。
データ取得部１１１は、正解データを、例えば、学習装置１１の内部または外部にある記憶装置から受け取ることにより、取得する。学習装置１１が、カメラ等、正解データを取得可能なデバイスを含み、データ取得部１１１はそのデバイスから正解データを受け取ってもよい。
あるいは、データ取得部１１１は、入力データを加工することにより、正解データを生成してもよい。例えば、対象の回転角度を変化される加工や、色合いまたは鮮明さを変化させる既知の技術を用いれば、データ取得部１１１は、入力データの加工により正解データを生成可能である。
差異情報は、入力データと正解データとの関係を示す情報である。具体的には、差異情報は、入力データにより示される対象の態様と、正解データにより示される対象の態様と、の間の差異を示す。差異情報は、例えば、差異があるかないか、または差異がどの程度あるか、を示す、パラメータで表されてもよい。
簡単な例として、入力データが、椅子が写る画像であり、正解データが、その椅子が入力データにおける向きとは異なる向きで撮影された画像であるとする。入力データおよび正解データのセットの例は、図１Ａの画像と図１Ｂの画像とのセット、または図１Ａの画像と図１Ｃの画像とのセット等である。図１Ａの画像と図１Ｂの画像との関係を示す差異情報の例は、回転の角度を示す値（「＋６０（度）」等）である。図１Ａの画像と図１Ｃの画像との関係を示す差異情報の例は、方位角の変化を示す値（「−２０（度）」等）である。
入力データが光学画像である場合は、差異情報が示す差異の例には、例えば、入力データと比較しての、画像の表示面に垂直な方向を軸とした回転の角度、アングル（撮像を行うデバイスに対する対象の向き）の違い、明度の上がり具合（または下がり具合）、コントラストの違い、ノイズ（雨および霧等の存在、もしくは解像度の低さに由来するノイズ）の多さの違い、および、障害物または付属物または装飾物の有無の違い、等が含まれる。対象が髪および旗等、風になびく物である場合は、風の強さを示す情報が差異情報であってもよい。また、以上に挙げた例と強い関係のあるパラメータが、差異情報として採用されてもよい。入力データと正解データとが別々に取得される場合は、採用される差異情報が示す対象となる態様は、入力データの加工によって変化を表現できる態様である必要はない。
差異情報は、定量的なパラメータであってもよいし、複数の段階を持つパラメータでもよい。一例として、差異情報が雨の強さを示すパラメータである場合、「降っていない」、「弱い」、「やや強い」、「強い」の４種類の値で表されてもよい。差異情報は、二つの値（たとえば「有」と「無」）のみをとるパラメータでもよい。
データ取得部１１１は、差異情報を、例えば、学習装置１１の内部または外部にある記憶装置から受け取ることにより、取得する。データ取得部１１１は、入力データと正解データの関係を把握している、人、または装置から、差異情報の入力を受け付け、入力された差異情報を取得してもよい。データ取得部１１１は、差異情報を、入力データと正解データとの比較により差異を特定することで、取得してもよい。
＝＝＝エンコーダ１１２＝＝＝
エンコーダ１１２は、入力データから、潜在変数の値の組を導出する。エンコーダ１１２は、例えば、ニューラルネットワークを使用して、入力データをニューラルネットワークの入力層に入力し、出力としてｎ個の値を導出する。ｎは、ニューラルネットワークの出力層のユニット数である。このｎ個の値の組を、本開示では潜在変数の値の組、または潜在変数ベクトルと呼ぶ。本実施形態では「ベクトル」という語を用いるが、潜在変数ベクトルは、複数の値の１次元的な配列に限られない。出力する値の数は１個であってもよい。あるいは、潜在変数ベクトルは２次元以上の配列であってもよい。潜在変数ベクトルは、配列の形式以外の形式で学習装置１１において保持されてもよい。なお、ニューラルネットワークにより潜在変数ベクトルを導出することは、符号化（エンコード）とも呼ばれる。
エンコーダ１１２が使用するニューラルネットワークの構造は自由に設計され得る。例えば、層の数、各層の成分数、成分間の接続の仕方に、制限はない。一例として、エンコーダ１１２は、成分数が７８４である入力層と、成分数が５１２である中間層と、成分数が１４４である出力層と、から成る、畳み込みニューラルネットワークを使用してもよい。エンコーダ１１２が出力する値の個数（すなわち、潜在変数ベクトルの成分の数）は、典型的には、入力データにおける成分の数よりも少なくなるように構成される。ただし、エンコーダ１１２が出力する値の個数は、入力データにおける成分の数と同じか多くなるように構成されてもよい。
また、エンコーダ１１２が使用するニューラルネットワークで使われる活性化関数はどのような活性化関数でもよい。活性化関数の例としては、恒等関数、シグモイド関数、ＲｅＬＵ（Ｒｅｃｔｉｆｉｅｄ Ｌｉｎｅａｒ Ｕｎｉｔ）関数、双曲線正接関数、等が挙げられる。
エンコーダ１１２は、使用するニューラルネットワークにおけるパラメータ（典型的には、重みおよびバイアス）の値を、パラメータ記憶部１１９から読み出して、入力データの符号化を行う。
＝＝＝変換部１１３＝＝＝
変換部１１３は、エンコーダ１１２により出力された潜在変数ベクトルを、別の潜在変数ベクトルへと変換する。変換部１１３が潜在変数ベクトルを変換することを、本開示では変数変換と称す。
変換部１１３は、変換関数を用いて、潜在変数ベクトルを変換する。変換部１１３は、上述の差異情報に応じて異なる変換関数を用いる。
例えば、変換部１１３は、差異情報に応じて異なり得る値をとる変換パラメータを用いた変換関数を用いる。変換部１１３は、差異情報に応じて変換パラメータを決定した後、決定した変換パラメータを用いた変換関数を用いて、潜在変数ベクトルを変換すればよい。
変換関数の例として、潜在変数ベクトルの成分の配置を変更する関数が挙げられる。例えば、変換関数は、潜在変数ベクトルの成分の配置をシフトする関数である。シフトする量が、変換パラメータによって決められてもよい。なお、成分数がｎであるベクトルの成分の配置をｋ個シフトする操作とは、ベクトルの１番目からｎ−ｋ番目の成分をｋ＋１番目からｎ番目に移動させ、ｎ−ｋ番目からｎ番目にあった成分を１番目からｋ番目までに移動させる操作である。
具体的な例として、変換関数は、成分数が１４４である潜在変数ベクトルの成分の配置を、変換パラメータｐの値に基づいてシフトする、関数であるとする。データ取得部１１１により取得される差異情報は、回転角度θであり、θは０以上３６０未満の整数のうち５の倍数の値をとるとする。このような場合、変換パラメータｐとして、θを５で除した値が定義されてもよい。そうすると、ｐは０から７１の範囲の整数値を取りうるパラメータである。そして、ｐの２倍の値が、潜在変数ベクトルの成分の配置をシフトさせる量に相当するよう、変換関数が定義されてよい。例えば、４０度の回転に相当する変換パラメータｐの値は８であり、潜在変数ベクトルの成分の配置を１６個シフトすることに対応する。
潜在変数ベクトルの成分の配置をシフトする変換関数は、例えば、シフトを表す変換行列の乗算として表現できる。潜在変数ベクトルをＺ０、潜在変数ベクトルの成分数をｎ、変換パラメータの値をｋ、シフトを表す変換行列をＳｋとすると、Ｓｋはｎ×ｎの行列であり、上記変換関数は次の式で表される。
Ｆ（ｋ，Ｚ０）＝Ｓｋ・Ｚ０
行列Ｓｋは、図３に示される行列である。すなわち、行列Ｓｋは、１≦ｉ≦ｎ−ｋｒであるｉについて、第ｉ行、第ｋｒ＋ｉ列の数値が１であり、１≦ｊ≦ｋｒであるｊについて、第（ｎ−ｋｒ＋ｊ）行、第ｊ列の数値が１であり、それ以外の数値が０である行列である。ただし、ｋｒは、ｋがとりうる値の個数をＮ（ｋ）としたとき、ｋ×ｎ／Ｎ（ｋ）で求められる値である。
変換部１１３による変換により、成分数がｎである、新たな潜在変数ベクトルが生成される。
変数変換のための関数や行列の作り方は、上記に限られない。例えば、変換部１１３は、上記の行列Ｓｋの代わりに、行列Ｓｋにガウシアンフィルタを適用することで生成される行列を用いてもよい。
変数変換の種類は、上記に説明されたシフト操作に制限されない。例えば、変数変換は、差異情報が示す差異の大きさに応じて減算量が大きくなる、成分値の減算処理でもよい。差異情報が示す差異の大きさに応じた回数実行される、平滑化処理でもよい。変数変換は、所定の成分に対する演算であり、演算の内容または演算を受ける成分の数が、差異情報が示す差異の大きさに依存してもよい。
変換部１１３が行う変数変換には、恒等変換が含まれていてもよい。特に、差異情報が差異が無いことを示す場合の変数変換は、恒等変換であってもよい。
なお、入力データと正解データとの間で異なり得る態様の種類が２種類以上である場合、変換部１１３は、それぞれの態様に係る差異情報に基づき、それぞれ変数変換を行えばよい。一例として、差異情報が、三次元的な向きの変化を示す２つのパラメータ（α、β）で表される場合、変換部１１３は、潜在変数ベクトルに、αに依存する変換関数を適用した後、βに依存する変換関数を適用し、新たな潜在変数ベクトルを生成してもよい。また、αに依存する変換関数とβに依存する変換関数を並列で適用してもよい。あるいは、変換部１１３は、２種類以上の態様の差異のそれぞれの差異情報に基づき、１つの変換関数を決定し、その変換関数を用いて変数変換を実行してもよい。
＝＝＝デコーダ１１４＝＝＝
デコーダ１１４は、変換部１１３による変換後の潜在変数ベクトルから、出力データを生成する。デコーダ１１４は、例えば、ニューラルネットワーク（エンコーダ１１２が使用するニューラルネットワークとは異なる）を使用して、潜在変数ベクトルをニューラルネットワークの入力層に入力し、出力としてｍ個の成分からなる出力データを生成する。ｍは、デコーダ１１４が使用するニューラルネットワークの出力層のユニット数である。このｍは、正解データの成分数と同じ値に設定される。入力データと正解データとが同じ形式で表現されるデータである場合、ｍは、入力データの成分数、すなわちエンコーダ１１２の入力層のユニット数に、一致する。ニューラルネットワークにより潜在変数ベクトルから出力データを生成することは、復号（デコード）とも呼ばれる。
デコーダ１１４が使用するニューラルネットワークの構造は自由に設計され得る。たとえば、層の数、（多層ニューラルネットワークである場合は）中間層の成分数、成分間の接続の仕方に、制限はない。一例として、デコーダ１１４は、成分数が１４４である入力層と、成分数が５１２である中間層と、成分数が７８４である出力層と、から成る、ニューラルネットワークを使用してもよい。
また、デコーダ１１４が使用するニューラルネットワークで使われる活性化関数はどのような活性化関数でもよい。活性化関数の例としては、恒等関数、シグモイド関数、ＲｅＬＵ関数、双曲線正接関数、等が挙げられる。
デコーダ１１４は、使用するニューラルネットワークにおけるパラメータ（典型的には、重みおよびバイアス）の値を、パラメータ記憶部１１９から読み出して、潜在変数ベクトルの復号を行う。
＝＝＝パラメータ更新部１１５＝＝＝
パラメータ更新部１１５は、デコーダ１１４により生成された出力データと、データ取得部１１１により取得された正解データと、の比較に基づき、エンコーダ１１２およびデコーダ１１４に用いられるニューラルネットワークのパラメータの値を更新する。
パラメータの値の更新の手順の具体例を示す。まず、パラメータ更新部１１５は、１組以上の、正解データと出力データとのセットについて、正解データに対する出力データの誤差を算出する。パラメータ更新部１１５は、誤差を求めるための誤差関数として、たとえば平均二乗誤差を用いてもよい。そして、パラメータ更新部１１５は、算出された誤差がより小さくなるように、新たなパラメータの値を決定する。新たなパラメータの値を決定するための手法は、一般的なオートエンコーダにおいて採用される、パラメータの値の最適化の方法として既知である方法が、用いられればよい。一例として、パラメータ更新部１１５は、誤差逆伝搬法を用いて勾配を計算し、Ｓｔｏｃｈａｓｔｉｃ Ｇｒａｄｉｅｎｔ Ｄｅｃｅｎｔ（ＳＧＤ）を用いてパラメータの値を決定してもよい。他に採用され得る手法として、「ＲＭＳｐｒｏｐ」、「Ａｄａｇｒａｄ」、「Ａｄａｄｅｌｔａ」、「Ａｄａｍ」等が挙げられる。
そして、パラメータ更新部１１５は、決定した新たなパラメータの値を、パラメータ記憶部１１９に記録する。以降、エンコーダ１１２およびデコーダ１１４は新たなパラメータの値を使用する。以上が更新の具体的手順である。
なお、パラメータ更新部１１５が更新する対象のパラメータは、エンコーダ１１２が使用するニューラルネットワークの重みおよびバイアス、ならびにデコーダ１１４が使用するニューラルネットワークの重みおよびバイアスである。変数変換に使用される変換パラメータは、パラメータ更新部１１５が更新する対象のパラメータに含まれない。
なお、パラメータ更新部１１５は、所定の回数だけ、パラメータの値の更新を繰り返し行ってもよい。所定の回数は、例えば、学習装置１１のユーザから入力インタフェースを介して所定の回数を示す数値の入力を受け取った値に決定されてもよい。
パラメータ更新部１１５が誤差を求めるために使用する誤差関数は、自由に設計され得る。パラメータ更新部１１５は、ＶＡＥ（Ｖａｒｉａｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ）で使用される誤差関数のように、潜在変数ベクトルの平均と分散の値を考慮した誤差関数を使用してもよい。
＝＝＝出力部１１６＝＝＝
出力部１１６は、更新されたパラメータの値の情報を、出力する。例えば、出力部１１６は、パラメータ更新部１１５が繰り返しパラメータの値を更新することにより最適化されたパラメータの値を、出力する。出力部１１６による出力の出力先の例には、表示装置、記憶装置、および通信ネットワークが含まれる。出力部１１６が情報を表示装置に出力する場合、出力部１１６は、表示装置が該情報を表示できるよう、情報を変換してもよい。なお、上記した表示装置および記憶装置は、学習装置１１の外部のデバイスであってもよいし、学習装置１１に含まれる構成要素であってもよい。
＜処理の概要＞
学習装置１１による処理の概要を説明する。図４は、学習装置１１による、出力データの生成の過程を説明する概念図である。
まず、ｍ個のデータ値（ｘ１、ｘ２、・・・、ｘｍ）を成分として持つ入力データから、エンコーダ１１２のニューラルネットワークにより、ｎ個の成分（ｚ１、ｚ２、・・・、ｚｎ)を持つ潜在変数ベクトルが導出される。この潜在変数ベクトルは、変換部１１３による変数変換により、ｎ個の成分（ｚ’１、ｚ’２、・・・、ｚ’ｎ)を持つ別の潜在変数ベクトルに変換される。この別の潜在変数ベクトルから、デコーダ１１４のニューラルネットワークにより、ｍ個の成分（ｙ’１、ｙ’２、・・・、ｙ’ｍ）を持つ出力データが生成される。
こうして生成される出力データと、入力データに対して対象の態様が異なる関係である、ｍ個の成分（ｙ１、ｙ２、・・・、ｙｍ）を持つ正解データと、のセットが、訓練用データセットとして、学習に用いられる。
＜動作の具体例＞
学習装置１１の動作の具体例について説明する。図５は、学習装置１１の動作の流れを示すフローチャートである。なお、各処理は、各処理がプログラムを実行するデバイスによって実行される場合においては、プログラムの中の命令の順序に従って実行されればよい。各処理が別個のデバイスによって実行される場合においては、処理を完了したデバイスが次の処理を実行するデバイスに通知を行うことで、次の処理が実行されればよい。なお、処理を行う各部は、例えば、めいめいの処理によって生成したデータを、学習装置１１に含まれる記憶領域または外部の記憶装置に記録する。また、処理を行う各部は、めいめいの処理に必要なデータを、そのデータを生成した部から受け取るか、上記の学習装置１１に含まれる記憶領域または外部の記憶装置から読み出せばよい。
まず、データ取得部１１１が、入力データと、正解データと、差異情報とを取得する（ステップＳ１１）。ただし、各種のデータが取得されるタイミングは同時でなくてもよい。データが取得されるタイミングは、そのデータが使用されるステップの処理が行われる前であればいつでもよい。
次に、エンコーダ１１２が、入力データを潜在変数ベクトルに変換する（ステップＳ１２）。
次に、変換部１１３が、差異情報が示す差異に応じた変換パラメータの値を用いて、潜在変数ベクトルを変換する（ステップＳ１３）。
次に、デコーダ１１４が、変換後の潜在変数ベクトルを出力データに変換する（ステップＳ１４）。
次に、パラメータ更新部１１５が、エンコーダ１１２およびデコーダ１１４に用いられるパラメータの値の更新を終了するかを判定する。
更新を終了する場合とは、例えば、パラメータ更新部１１５がパラメータの値の更新を行った回数が、所定の回数に達した場合である。
別の例として、更新を終了する場合とは、正解データに対する出力データの誤差が十分に小さい場合でもよい。パラメータ更新部１１５は、例えば、次のような場合に、誤差が十分に小さいと判定し、更新を終了すると判定してもよい。
・誤差を示す値が所定の基準値を下回った場合
・誤差をこれ以上小さくすることができない場合、または、
・誤差の減少量（すなわち、最後に行った更新の直前における誤差と更新後の誤差との差）もしくは減少率（すなわち、現在の誤差に対する減少量の比）が所定の基準値を下回った場合。
あるいは、パラメータ更新部１１５は、各パラメータの値の絶対変化量（すなわち、更新する場合のパラメータの値の変化量の絶対値）の平均値もしくは最大値、または変化率（すなわち、現在の値に対する絶対変化量の比）の平均値もしくは最大値が、所定の基準値を下回った場合に、更新を終了すると判定してもよい。
更新を終了しない場合は（ステップＳ１６においてＮＯ）、パラメータ更新部１１５はパラメータの値を更新し（ステップＳ１７）、学習装置１１は再びステップＳ１２からステップＳ１４の処理を行う。２回目以降のステップＳ１２およびステップＳ１４の処理では、エンコーダ１１２およびデコーダ１１４は、更新されたパラメータの値を用いて、処理を行う。パラメータ更新部１１５は、ステップＳ１４の処理により新たに生成された出力データを、再び正解データと比較し（ステップＳ１５）、パラメータの値の更新を終了するかを判定する。このように、学習装置１１は、パラメータの更新を終了すると判定されるまで、パラメータの値の更新と、更新されたパラメータの値を用いた出力データの生成と、を繰り返す。このような繰り返しを通してパラメータの値を更新する処理が、学習である。パラメータ更新部１１５は、いわば、出力データと正解データとの組を訓練用データセットとした学習により、パラメータの値を更新する。更新を繰り返し行うことでパラメータの値をより好適な値にすることを、最適化とも呼ぶ。
パラメータの値の更新を終了すると判定されたら（ステップＳ１６においてＹＥＳ）、出力部１１６はそのパラメータの値を出力する（ステップＳ１８）。
＜効果＞
第１の実施形態に係る学習装置１１によれば、同一の対象について、異なる態様の該対象の特徴をそれぞれ表現し、かつ互いに関連性を持つ潜在変数ベクトルを、導出できる。
上述した具体例に基づくと、学習装置１１が奏する効果の例は次の通りである。
学習が完了した後の学習装置１１のエンコーダ１１２、変換部１１３およびデコーダ１１４は、変換パラメータに応じて、異なる態様の対象を示す、複数の画像を生成することができる。したがって、エンコーダ１１２が出力する潜在変数ベクトルは、画像における対象の態様が変化した場合でも、変換によってその変化を表現できる。つまり、エンコーダ１１２と変換部１１３との組み合わせによれば、異なる態様の対象の特徴をそれぞれ表現し、かつ互いに関連性を持つ潜在変数ベクトルを、生成できる。
態様の差異が定量的に表され得る差異である場合、変換部１１３およびデコーダ１１４の組は、正解データにない態様が記録されたデータを生成できる可能性がある。例えば、変数導出の学習において、ある態様（「態様ＳＡ」とする）の対象が記録されたデータおよび別の態様（「態様ＳＣ」とする）の対象が記録されたデータが、それぞれ正解データとして用いられたとする。変換部１１３は、態様ＳＡから態様ＳＣへの変化に相当する変換パラメータの値の半値を用いた変数変換により、態様ＳＡの対象を表現する潜在変数ベクトルから、態様ＳＡと態様ＳＣの間の態様に相当する態様（「態様ＳＢ」とする）の対象を表現する潜在変数ベクトルを生成可能である。デコーダ１１４がこの潜在変数ベクトルから出力データを生成することにより、態様ＳＢの対象が記録された出力データが生成される可能性がある。
態様の差異が定量的に表されない差異である場合であっても、変換部１１３およびデコーダ１１４の組は、正解データにない態様が記録されたデータを生成できる場合がある。例えば、変数導出の学習において、態様ＳＡのある対象（「対象ＴＡ」とする）が記録されたデータ、態様ＳＢの対象ＴＡが記録されたデータ、および態様ＳＡの別の対象（「対象ＴＢ」とする）が記録されたデータが、それぞれ正解データとして用いられたとする。この学習により、変換部１１３およびデコーダ１１４の組は、潜在変数ベクトルから、態様ＳＡの対象ＴＡが記録されたデータおよび態様ＳＢの対象ＴＡが記録されたデータを生成できる。したがって、変換部１１３は、態様ＳＡの対象ＴＢが表現された潜在変数ベクトルを変換することにより、態様ＳＢの対象ＴＢを表現する潜在変数ベクトルを導出することができると考えられる。そして、この変換後の潜在変数ベクトルは、デコードにより態様ＳＢの対象ＴＢが記録されたデータを生成することも可能であると期待される。
態様の差異が定量的に表され得る差異である場合、エンコーダ１１２は、入力データにない態様の対象を表現する潜在変数ベクトルを導出できる可能性がある。例えば、変数導出の学習において、態様ＳＡの対象が記録されたデータおよび態様ＳＣの対象が記録されたデータがそれぞれ入力データとして用いられたとする。パラメータの値が最適化された後のエンコーダ１１２に、態様ＳＡと態様ＳＣの間の態様に相当する態様ＳＢの対象が記録されたデータを入力すると、導出される潜在変数ベクトルは、態様ＳＡの対象を表現する潜在変数ベクトルから変数変換を行うことにより生成可能な潜在変数ベクトルに類似する（または一致する）可能性がある。すなわち、エンコーダ１１２は、学習に使用されていない態様の対象から、その態様とは別の態様を表現する潜在変数ベクトルに変換することが可能な潜在変数ベクトルを導出できる可能性がある。
態様の差異が定量的に表されない差異である場合であっても、エンコーダ１１２は、入力データにない態様の対象を表現する潜在変数ベクトルを導出できる場合がある。例えば、変数導出の学習において、態様ＳＡの対象ＴＡが記録されたデータ、態様ＳＢの対象ＴＡが記録されたデータ、および態様ＳＡの対象ＴＢが記録されたデータが、それぞれ入力データとして用いられたとする。この学習により、エンコーダ１１２は、態様ＳＢの対象ＴＡを表現する潜在変数ベクトルを導出可能になる。したがって、エンコーダ１１２は、態様ＳＢの対象ＴＢが記録されたデータから、態様ＳＢの対象ＴＢを表現する潜在変数ベクトルを導出することもできると考えられる。そして、この導出される潜在変数ベクトルから、変数変換により態様ＳＡの対象ＴＢを表現する潜在変数ベクトルへと変換することも可能であると期待される。
以上に述べた通り、変数導出の学習により、エンコーダ１１２は、異なる態様の同一の対象に対して、変換パラメータを用いた変換により互いに変換可能な潜在変数ベクトルを導出できる可能性がある。
上記のような性質の潜在変数ベクトルがエンコーダ１１２によって導出可能となることにより、例えば次のような効果が奏される。
例えば、エンコーダ１１２のニューラルネットワークを用いて対象を識別するための分類器を構築した場合、学習用データになかった態様をとる対象を、正しく識別できる可能性が、通常のニューラルネットワークを用いた分類器に比べて高い。
また、例えば、変換パラメータの値を任意の値に設定して、エンコーダ１１２、変換部１１３、およびデコーダ１１４を用いて入力データから出力データを生成することにより、入力データにおける態様と異なる態様で写る対象の画像が取得できる。変換パラメータの値を様々に設定して入力データから出力データを生成することにより、様々な態様の対象が写る画像を生成することができる。変換パラメータの値は、差異情報に関連づけられているので、任意の態様の対象の画像を生成することも可能である。例えば、回転角度と潜在変数ベクトルのシフトとを関連づけるように定義された例では、学習の結果、潜在変数ベクトルをシフトする量を適切に設定することにより、対象が望みの角度で写る画像を生成することができる。
そして、デコーダ１１４によって生成された様々な画像は、潜在変数ベクトルを入力としてクラス分類を行う分類器の学習における、学習用データとして使用できる。このような学習の結果、分類器は、学習装置１０による学習において使用された学習用データにはなかった態様をとる対象を正しく分類できる可能性がある。
［補足］
学習装置１１は、対象の態様が異なる２つ以上のデータとそれらのデータの間の差異を示す情報（差異情報）を取得可能であれば、どのようなデータ、対象、および態様の差異を扱ってもよい。
入力データは光学画像に限られない。入力データは、態様が変化し得る対象を記録し、ニューラルネットワークによって変換され得る変数で表すことが可能なデータであれば、何でもよい。
入力データの一例は、ＳＡＲデータである。ＳＡＲデータは、ＳＡＲ（Ｓｙｎｔｈｅｔｉｃ Ａｐｅｒｔｕｒｅ Ｒａｄａｒ；合成開口レーダ）によって取得されるセンシングデータである。ＳＡＲデータにより記録される対象の例は、地形、構造物、車両、航空機、および船舶である。変化し得る態様の例は、ＳＡＲデータの取得時の方位角、および俯角である。つまり、ＳＡＲによるセンシング時の条件に起因する差異が、学習装置１１が扱う差異に採用されてもよい。
例えば、入力データは、センシングデバイスによって取得されるセンシングデータの、時系列データでもよい。
例えば、入力データは、音データでもよい。音データは、音が記録されたデータである。入力データが音データである場合は、入力データは、具体的には、時間ごとの振幅、または時間窓ごとのスペクトログラムの強度等により表されればよい。
入力データが音データである場合、対象の例は、人の声、発話内容、音響イベント、および音楽、等である。音響イベントとは、悲鳴やガラスの破砕音等、何らかのイベントの発生を示す音のことである。入力データが音データである場合、異なり得る態様の例は、周波数（音の高さ）、録音場所、エコーの程度、音色、データの再生速度（テンポ）、ノイズの程度、音を発生した物の種類、音を発生した人物、またはその人物の感情の状態、等である。
＜＜第２の実施形態＞＞
本発明の一実施形態に係る学習装置１０について説明する。図６は、学習装置１０の構成を示すブロック図である。学習装置１０は、データ取得部１０１と、エンコーダ１０２と、変換部１０３と、デコーダ１０４と、パラメータ更新部１０５と、を備える。
データ取得部１０１は、対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する。
エンコーダ１０２は、第１のデータから特徴量を導出する。特徴量は、言い換えれば、データに含まれる対象の特徴を示す値の組である。さらに別の言葉では、特徴量は、対象を表す情報、データの表現、等と呼ばれてもよい。特徴量を導出することは、「特徴量を抽出する」と呼ばれることもある。上記各実施形態における、「潜在変数ベクトル」は、本実施形態の「特徴量」に相当する。特徴量が学習装置１０において保持される態様は問わない。例えば、特徴量は、配列の形式で保持されていてもよいし、名前が付与された変数の値としてそれぞれ保持されていてもよい。
以下、エンコーダ１０２が第１のデータから導出した特徴量を「第１の特徴量」と呼ぶ。
変換部１０３は、エンコーダ１０２により導出された第１の特徴量を、第２の特徴量に変換する。変換部１０３は、第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、第１の特徴量を変換してもよい。なお、第２の特徴量の成分の数は、第１の特徴量の成分の数と、同じでもよいし、異なっていてもよい。
デコーダ１０４は、第２の特徴量から第３のデータを生成する。第３のデータは、第２のデータと同じ形式で表現されるデータである。
パラメータ更新部１０５は、第２のデータと第３のデータとの比較に基づき、エンコーダ１０２による特徴量の導出（第１の特徴量の導出を含む）に使用されるパラメータの値と、デコーダ１０４による第３のデータの生成に使用されるパラメータの値と、を更新する。具体的には、パラメータ更新部１０５は、第３のデータが第２のデータになるべく類似するように生成されるように、パラメータの値を更新する。パラメータの値を更新するとは、例えば、パラメータを記憶する記憶部に、パラメータの新たな値を記録することである。パラメータ更新部１０５は、パラメータの新たな値を、学習装置１０の外部の装置（例えば、記憶装置、表示装置またはニューラルネットワークを使用する情報処理装置）に、出力してもよい。
なお、パラメータ更新部１０５は、変換部１０３が行う変換に使用されるパラメータを、更新の対象としない。
図７のフローチャートを参照しながら、学習装置１０による処理の流れの例を説明する。まず、データ取得部１０１が、対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する（ステップＳ１０１）。次に、エンコーダ１０２が、第１のデータから第１の特徴量を導出する（ステップＳ１０２）。次に、変換部１０３が、エンコーダ１０２により導出された第１の特徴量を、第２の特徴量に変換する（ステップＳ１０３）。次に、デコーダ１０４が、第２の特徴量から第３のデータを生成する（ステップＳ１０４）。そして、パラメータ更新部１０５は、第２のデータと第３のデータとの比較に基づき、エンコーダ１０２による特徴量の導出に使用されるパラメータの値と、デコーダ１０４による第３のデータの生成に使用されるパラメータの値と、を更新する（ステップＳ１０５）。
学習装置１０は、ステップＳ１０２からステップＳ１０５の処理を、デコーダ１０４が第３のデータにより類似する第２のデータを生成できるように繰り返し行うことで、第１のデータからエンコーダ１０２により導出される第１の特徴量からでも、第２のデータに類似するデータを生成できるようになる。したがって、エンコーダ１０２が導出する第１の特徴量が第１のデータにおいて第１の態様をとる対象の特徴を表現する一方、変換部１０３により第１の特徴量を変換した結果生成される第２の特徴量は、第２のデータにおいて第２の態様をとる対象の特徴を表現する。
つまり、本実施形態の学習装置１０により更新されたパラメータの値を用いたエンコーダ１０２と、変換部１０３とによって、同一の対象について、異なる態様の該対象の特徴をそれぞれ表現し、かつ互いに関連性を持つ特徴量を、導出可能である。上記エンコーダ１０２と変換部１０３とを組み合わせることで、上記のような性質を持つ特徴量を導出可能な特徴導出器を生成できる。
＜実施形態の各部を実現するハードウェアの構成＞
以上で説明された本発明の各実施形態において、各装置の各構成要素を示すブロックは、機能単位で示されている。しかし、構成要素を示すブロックは、各構成要素が別個のモジュールにより構成されることを必ずしも意味していない。
各構成要素の処理は、たとえば、コンピュータシステムが、コンピュータ読み取り可能な記憶媒体により記憶された、その処理をコンピュータシステムに実行させるプログラムを、読み出し、実行することによって、実現されてもよい。「コンピュータ読み取り可能な記憶媒体」は、たとえば、光ディスク、磁気ディスク、光磁気ディスク、および不揮発性半導体メモリ等の可搬媒体、ならびに、コンピュータシステムに内蔵されるＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）およびハードディスク等の記憶装置である。「コンピュータ読み取り可能な記憶媒体」は、コンピュータシステム内部の揮発性メモリのようにプログラムを一時的に保持可能なもの、および、ネットワークや電話回線等の通信回線のように、プログラムを伝送するものも含む。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよく、更に前述した機能をコンピュータシステムにすでに記憶されているプログラムとの組み合わせで実現できるものであってもよい。
「コンピュータシステム」とは、一例として、図８に示されるようなコンピュータ９００を含むシステムである。コンピュータ９００は、以下のような構成を含む。
・１つまたは複数のＣＰＵ９０１
・ＲＯＭ９０２
・ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）９０３
・ＲＡＭ９０３へロードされるプログラム９０４Ａおよび記憶情報９０４Ｂ
・プログラム９０４Ａおよび記憶情報９０４Ｂを格納する記憶装置９０５
・記憶媒体９０６の読み書きを行うドライブ装置９０７
・通信ネットワーク９０９と接続する通信インタフェース９０８
・データの入出力を行う入出力インタフェース９１０
・各構成要素を接続するバス９１１
たとえば、各実施形態における各装置の各構成要素は、その構成要素の機能を実現するプログラム９０４ＡをＣＰＵ９０１がＲＡＭ９０３にロードして実行することで実現される。各装置の各構成要素の機能を実現するプログラム９０４Ａは、例えば、予め、記憶装置９０５やＲＯＭ９０２に格納される。そして、必要に応じてＣＰＵ９０１がプログラム９０４Ａを読み出す。記憶装置９０５は、たとえば、ハードディスクである。プログラム９０４Ａは、通信ネットワーク９０９を介してＣＰＵ９０１に供給されてもよいし、予め記憶媒体９０６に格納されており、ドライブ装置９０７に読み出され、ＣＰＵ９０１に供給されてもよい。なお、記憶媒体９０６は、たとえば、光ディスク、磁気ディスク、光磁気ディスク、および不揮発性半導体メモリ等の、可搬媒体である。
各装置の実現方法には、様々な変形例がある。例えば、各装置は、構成要素毎にそれぞれ別個のコンピュータ９００とプログラムとの可能な組み合わせにより実現されてもよい。また、各装置が備える複数の構成要素が、一つのコンピュータ９００とプログラムとの可能な組み合わせにより実現されてもよい。
また、各装置の各構成要素の一部または全部は、その他の汎用または専用の回路、コンピュータ等やこれらの組み合わせによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。
各装置の各構成要素の一部または全部が複数のコンピュータや回路等により実現される場合には、複数のコンピュータや回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、コンピュータや回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
上記実施形態の一部または全部は以下の付記のようにも記載され得るが、以下には限られない。
＜＜付記＞＞
［付記１］
対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得手段と、
前記第１のデータから第１の特徴量を導出するエンコード手段と、
前記第１の特徴量を第２の特徴量に変換する変換手段と、
前記第２の特徴量から第３のデータを生成するデコード手段と、
前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新手段と、
を備える学習装置。
［付記２］
前記変換手段は、前記第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記１に記載の学習装置。
［付記３］
前記変換手段は、前記差異を定量的に示すパラメータを含む前記関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記２に記載の学習装置。
［付記４］
前記第１のデータは画像であり、前記対象は物体または人物である、
付記１から３のいずれかに記載の学習装置。
［付記５］
前記第１のデータはＳＡＲ（Ｓｙｎｔｈｅｔｉｃ Ａｐｅｒｔｕｒｅ Ｒａｄａｒ）によるセンシングデータから生成される画像であり、前記態様の差異はＳＡＲによるセンシング時の条件に起因する差異である、
付記１から３のいずれかに記載の学習装置。
［付記６］
前記エンコード手段は、前記パラメータ更新手段によって更新された前記パラメータの値を使用して、前記第１のデータから特徴量を新たに導出し、
前記変換手段は、前記新たに導出された特徴量を、前記第１の特徴量を変換したときとは異なる関数により第３の特徴量を新たに生成し、
前記デコード手段は、前記第３の特徴量から新たなデータを生成する、
付記２または３に記載の学習装置。
［付記７］
対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得し、
前記第１のデータから第１の特徴量を導出し、
前記第１の特徴量を第２の特徴量に変換し、
前記第２の特徴量から第３のデータを生成し、
前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新する、
学習方法。
［付記８］
前記第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記７に記載の学習方法。
［付記９］
前記差異を定量的に示すパラメータを含む前記関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記８に記載の学習方法。
［付記１０］
前記第１のデータは画像であり、前記対象は物体または人物である、
付記７から９のいずれかに記載の学習方法。
［付記１１］
前記第１のデータはＳＡＲ（Ｓｙｎｔｈｅｔｉｃ Ａｐｅｒｔｕｒｅ Ｒａｄａｒ）によるセンシングデータから生成される画像であり、前記態様の差異はＳＡＲによるセンシング時の条件に起因する差異である、
付記７から９のいずれかに記載の学習方法。
［付記１２］
更新された前記パラメータの値を使用して、前記第１のデータから特徴量を新たに導出し、
前記新たに導出された特徴量を、前記第１の特徴量を変換したときとは異なる関数により第３の特徴量を新たに生成し、
前記第３の特徴量から新たなデータを生成する、
付記８または９に記載の学習方法。
［付記１３］
対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得処理と、
前記第１のデータから第１の特徴量を導出するエンコード処理と、
前記第１の特徴量を第２の特徴量に変換する変換処理と、
前記第２の特徴量から第３のデータを生成するデコード処理と、
前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新処理と、
をコンピュータに実行させるプログラムを記録した、コンピュータ読み取り可能な記憶媒体。
［付記１４］
前記変換処理は、前記第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記１３に記載の記憶媒体。
［付記１５］
前記変換処理は、前記差異を定量的に示すパラメータを含む前記関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
付記１４に記載の記憶媒体。
［付記１６］
前記第１のデータは画像であり、前記対象は物体または人物である、
付記１３から１５のいずれかに記載の記憶媒体。
［付記１７］
前記第１のデータはＳＡＲ（Ｓｙｎｔｈｅｔｉｃ Ａｐｅｒｔｕｒｅ Ｒａｄａｒ）によるセンシングデータから生成される画像であり、前記態様の差異はＳＡＲによるセンシング時の条件に起因する差異である、
付記１３から１５のいずれかに記載の記憶媒体。
［付記１８］
前記エンコード処理は、前記パラメータ更新処理によって更新された前記パラメータの値を使用して、前記第１のデータから特徴量を新たに導出し、
前記変換処理は、前記新たに導出された特徴量を、前記第１の特徴量を変換したときとは異なる関数により第３の特徴量を新たに生成し、
前記デコード処理は、前記第３の特徴量から新たなデータを生成する、
付記１４または１５に記載の記憶媒体。
本願発明は以上に説明した実施形態に限定されるものではない。以上に説明した実施形態の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
１０、１１ 学習装置
１０１、１１１ データ取得部
１０２、１１２ エンコーダ
１０３、１１３ 変換部
１０４、１１４ デコーダ
１０５、１１５ パラメータ更新部
１１６ 出力部
１１９ パラメータ記憶部
９００ コンピュータ
９０１ ＣＰＵ
９０２ ＲＯＭ
９０３ ＲＡＭ
９０４Ａ プログラム
９０４Ｂ 記憶情報
９０５ 記憶装置
９０６ 記憶媒体
９０７ ドライブ装置
９０８ 通信インタフェース
９０９ 通信ネットワーク
９１０ 入出力インタフェース
９１１ バス

Claims (10)

  1. 対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得手段と、
    前記第１のデータから第１の特徴量を導出するエンコード手段と、
    前記第１の特徴量を第２の特徴量に変換する変換手段と、
    前記第２の特徴量から第３のデータを生成するデコード手段と、
    前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新手段と、
    を備える学習装置。
  2. 前記変換手段は、前記第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
    請求項１に記載の学習装置。
  3. 前記変換手段は、前記差異を定量的に示すパラメータを含む前記関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
    請求項２に記載の学習装置。
  4. 前記第１のデータは画像であり、前記対象は物体または人物である、
    請求項１から３のいずれかに記載の学習装置。
  5. 前記第１のデータはＳＡＲ（Ｓｙｎｔｈｅｔｉｃ Ａｐｅｒｔｕｒｅ Ｒａｄａｒ）によるセンシングデータから生成される画像であり、前記態様の差異はＳＡＲによるセンシング時の条件に起因する差異である、
    請求項１から３のいずれかに記載の学習装置。
  6. 前記エンコード手段は、前記パラメータ更新手段によって更新された前記パラメータの値を使用して、前記第１のデータから特徴量を新たに導出し、
    前記変換手段は、前記新たに導出された特徴量を、前記第１の特徴量を変換したときとは異なる関数により第３の特徴量を新たに生成し、
    前記デコード手段は、前記第３の特徴量から新たなデータを生成する、
    請求項２または３に記載の学習装置。
  7. 対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得し、
    前記第１のデータから第１の特徴量を導出し、
    前記第１の特徴量を第２の特徴量に変換し、
    前記第２の特徴量から第３のデータを生成し、
    前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新する、
    学習方法。
  8. 前記第１のデータにおける前記対象の態様と、前記第２のデータにおける前記対象の態様と、の差異に応じて異なる関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
    請求項７に記載の学習方法。
  9. 前記差異を定量的に示すパラメータを含む前記関数を用いて、前記第１の特徴量を前記第２の特徴量に変換する、
    請求項８に記載の学習方法。
  10. 対象がそれぞれ相異なる態様で記録された、第１のデータと第２のデータと、を取得する取得処理と、
    前記第１のデータから第１の特徴量を導出するエンコード処理と、
    前記第１の特徴量を第２の特徴量に変換する変換処理と、
    前記第２の特徴量から第３のデータを生成するデコード処理と、
    前記第２のデータと前記第３のデータとの比較に基づき、前記第１の特徴量の導出に使用されるパラメータの値と、前記第３のデータの生成に使用されるパラメータの値と、を更新するパラメータ更新処理と、
    をコンピュータに実行させる学習プログラム。
JP2019559492A 2017-12-14 2017-12-14 学習装置、学習方法、および学習プログラム Active JP6943295B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/044898 WO2019116496A1 (ja) 2017-12-14 2017-12-14 学習装置、学習方法、および記憶媒体

Publications (2)

Publication Number Publication Date
JPWO2019116496A1 JPWO2019116496A1 (ja) 2020-11-26
JP6943295B2 true JP6943295B2 (ja) 2021-09-29

Family

ID=66819082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019559492A Active JP6943295B2 (ja) 2017-12-14 2017-12-14 学習装置、学習方法、および学習プログラム

Country Status (4)

Country Link
US (1) US11526691B2 (ja)
EP (1) EP3726464A4 (ja)
JP (1) JP6943295B2 (ja)
WO (1) WO2019116496A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021532881A (ja) * 2018-07-31 2021-12-02 ドイチェス クレープスフォルシュングスツェントルム シュティフトゥング デス エッフェントリッヒェン レヒツ マルチスペクトル情報を用いた拡張画像化のための方法およびシステム
JP6695947B2 (ja) * 2018-09-21 2020-05-20 ソニーセミコンダクタソリューションズ株式会社 固体撮像システム、画像処理方法及びプログラム
US12092732B2 (en) * 2021-10-06 2024-09-17 The Boeing Company Synthetic aperture radar classifier neural network

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06162173A (ja) 1992-11-20 1994-06-10 Mitsubishi Electric Corp ３次元物体認識装置
JP4238537B2 (ja) 2002-07-31 2009-03-18 富士ゼロックス株式会社 画像処理装置
US9031294B2 (en) 2010-07-23 2015-05-12 National Institute Of Advanced Industrial Science And Technology Region segmented image data creating system and feature extracting system for histopathological images
US11501429B2 (en) * 2017-07-19 2022-11-15 Altius Institute For Biomedical Sciences Methods of analyzing microscopy images using machine learning

Also Published As

Publication number Publication date
US20210073586A1 (en) 2021-03-11
EP3726464A1 (en) 2020-10-21
WO2019116496A1 (ja) 2019-06-20
JPWO2019116496A1 (ja) 2020-11-26
EP3726464A4 (en) 2020-12-16
US11526691B2 (en) 2022-12-13

Similar Documents

Publication Publication Date Title
US10679643B2 (en) Automatic audio captioning
US20190087726A1 (en) Hypercomplex deep learning methods, architectures, and apparatus for multimodal small, medium, and large-scale data representation, analysis, and applications
CN111292764A (zh) 辨识系统及辨识方法
CN113674733B (zh) 用于说话时间估计的方法和设备
JPWO2018207334A1 (ja) 画像認識装置、画像認識方法および画像認識プログラム
JP7207846B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP6943295B2 (ja) 学習装置、学習方法、および学習プログラム
CN115409694B (zh) 语义引导的缺陷图像生成方法、装置、设备及存储介质
JP2005092465A (ja) データ認識装置
US12334056B2 (en) Method and apparatus for conditioning neural networks
CN111046893A (zh) 图像相似性确定方法和装置、图像处理方法和装置
JP7437918B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2009288933A (ja) 学習装置、学習方法、及びプログラム
EP3903235B1 (en) Identifying salient features for generative networks
CN118097108A (zh) 目标检测模型的训练方法、目标检测方法、设备及介质
JP7047849B2 (ja) 識別装置、識別方法、および識別プログラム
CN114549922A (zh) 卷积神经网络识别与评估系统动态特性的方法和装置
CN112800813A (zh) 一种目标识别方法及装置
JP7184801B2 (ja) 学習装置、学習方法、および学習プログラム
CN117689996A (zh) 模型的生成方法、装置、电子设备以及存储介质
JP2020067954A (ja) 情報処理装置、情報処理方法及びプログラム
CN112634143B (zh) 图像色彩校正模型训练方法、装置及电子设备
JP2024179312A (ja) 機械学習プログラム、判定プログラム、及び機械学習装置
Moons et al. Resource aware design of a deep convolutional-recurrent neural network for speech recognition through audio-visual sensor fusion
KR20240105875A (ko) 음성변환을 위한 음성 데이터 학습 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200605

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210823

R150 Certificate of patent or registration of utility model

Ref document number: 6943295

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150