Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7755261B2 - Training Data Generation System - Google Patents
[go: Go Back, main page]

JP7755261B2 - Training Data Generation System - Google Patents

Training Data Generation System

Info

Publication number
JP7755261B2
JP7755261B2 JP2022190710A JP2022190710A JP7755261B2 JP 7755261 B2 JP7755261 B2 JP 7755261B2 JP 2022190710 A JP2022190710 A JP 2022190710A JP 2022190710 A JP2022190710 A JP 2022190710A JP 7755261 B2 JP7755261 B2 JP 7755261B2
Authority
JP
Japan
Prior art keywords
training data
image data
data generation
feature
generation system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022190710A
Other languages
Japanese (ja)
Other versions
JP2024078272A (en
Inventor
智司 小野
雄太 東園
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kagoshima University NUC
Toyota Body R&D Co Ltd
Original Assignee
Kagoshima University NUC
Toyota Body R&D Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kagoshima University NUC, Toyota Body R&D Co Ltd filed Critical Kagoshima University NUC
Priority to JP2022190710A priority Critical patent/JP7755261B2/en
Publication of JP2024078272A publication Critical patent/JP2024078272A/en
Application granted granted Critical
Publication of JP7755261B2 publication Critical patent/JP7755261B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Description

本発明は、訓練データ生成システムに関する。 The present invention relates to a training data generation system.

深層学習器である深層ニューラルネットワーク(DNN)を訓練する教師信号付き訓練データを生成する教師データ生成装置が開示されている(例えば、特許文献1参照)。 A teacher data generation device has been disclosed that generates training data with teacher signals for training a deep neural network (DNN), a deep learning device (see, for example, Patent Document 1).

国際公開第2020/217425号公報International Publication No. 2020/217425

深層学習器を学習するためには、膨大な数の教師信号付き訓練データが必要になる。膨大な数の教師信号付き訓練データを生成するためには、分類対象に精通する専門家が、コンピュータ技術を駆使して訓練データを生成し、長い時間をかけて訓練データに教師信号を付与する作業を行う必要がある。その作業は非常に負担が大きいものとなる。このため、上述の専門家である利用者が、短時間かつ軽負担で膨大な数の教師信号付き訓練データを生成することができるシステムの登場が望まれている。 Training a deep learning machine requires a huge amount of training data with teacher signals. To generate such a large amount of training data with teacher signals, an expert with extensive knowledge of the subject being classified must use computer technology to generate the training data and then spend a long time adding teacher signals to the training data. This is an extremely burdensome task. For this reason, there is a need for a system that allows the above-mentioned expert users to generate a huge amount of training data with teacher signals in a short amount of time and with little effort.

本発明は、上記実情の下になされたものであり、利用者がコンピュータを扱う技術を持つことなく、短時間かつ軽負担で膨大な数の教師信号付き訓練データを生成することができる訓練データ生成システムを提供することを目的とする。 The present invention was made in light of the above-mentioned circumstances, and aims to provide a training data generation system that enables users to generate a huge amount of training data with teacher signals in a short amount of time and with little burden, without requiring users to have computer skills.

上記目的を達成するために、本発明に係る訓練データ生成システムは、
特徴の有無により分類対象を分類する深層学習器の学習に用いられる教師信号付き訓練データを生成する訓練データ生成システムであって、
前記特徴を規定するパラメータを座標軸とするパラメータ空間におけるベクトルを1個体とし、前記パラメータ空間に規定される確率分布に従って個体群を生成し、前記個体群の各個体に対応するパラメータの設定値によって規定される訓練データを生成する訓練データ生成モデルと、
前記訓練データ生成モデルで生成された訓練データそれぞれについて特徴をどの程度適切に表しているかを利用者に判定させる判定部と、
前記訓練データ生成モデルによる訓練データの生成と、前記判定部における判定とを繰り返させつつ、特徴を適切に表していると判定される前記訓練データが多くなるか、前記訓練データにおける特徴を適切に表す度合が増すように前記確率分布を推定する対話型の最適化処理を行う最適化部と、
を備え
前記最適化部は、
前記最適化処理として、共分散行列適応進化戦略を用いた対話型進化計算を行う
In order to achieve the above object, the training data generation system according to the present invention comprises:
A training data generation system that generates training data with a teacher signal used for learning a deep learning device that classifies objects to be classified based on the presence or absence of features,
a training data generation model that defines an individual as a vector in a parameter space whose coordinate axes are parameters defining the characteristics, generates a population according to a probability distribution defined in the parameter space, and generates training data defined by setting values of parameters corresponding to each individual in the population;
a determination unit that allows a user to determine how appropriately each piece of training data generated by the training data generation model represents a feature;
an optimization unit that performs an interactive optimization process to estimate the probability distribution while repeating the generation of training data by the training data generation model and the determination by the determination unit, so that the number of training data that are determined to appropriately represent the features increases or the degree to which the features in the training data are appropriately represented increases;
Equipped with
The optimization unit
As the optimization process, interactive evolutionary computation using a covariance matrix adaptive evolution strategy is performed .

前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を示す特徴画像データを生成し、
前記特徴を有しない分類対象の基準画像データに、前記特徴画像データを重ね合わせることにより、前記訓練データを生成する、
こととしてもよい。
The training data generation model is
generating characteristic image data indicating characteristics defined by the setting values of the parameters corresponding to each of the individuals;
generating the training data by superimposing the feature image data on reference image data to be classified that does not have the feature;
This may also be the case.

前記分類対象は、検査対象の外面であり、
前記特徴は、外面に表れる傷又は亀裂であり、
前記基準画像データは、前記特徴を有しない検査対象の外面の画像データであり、
前記特徴画像データは、前記個体に対応するパラメータの設定値によって規定される前記特徴の画像データである、
こととしてもよい。
the classification object is the outer surface of the inspection object,
The feature is a scratch or crack that appears on the outer surface,
the reference image data is image data of an outer surface of the inspection object that does not have the feature;
The feature image data is image data of the feature defined by a set value of a parameter corresponding to the individual.
This may also be the case.

前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を表す分類対象の画像データを生成する、
こととしてもよい。
The training data generation model is
generating image data to be classified that represent features defined by the parameter setting values corresponding to each of the individuals;
This may also be the case.

前記特徴は、前記分類対象の形状、構造、部品の組合せ、模様、色彩又はこれらの結合に関する特徴である、
こととしてもよい。
The characteristics are characteristics related to the shape, structure, combination of parts, pattern, color, or a combination thereof of the classification object.
This may also be the case.

前記訓練データは、分類対象となる系列データであり、
前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を表す前記系列データを生成する、
こととしてもよい。
the training data is sequence data to be classified,
The training data generation model is
generating the sequence data representing features defined by parameter setting values corresponding to each of the individuals;
This may also be the case.

本発明によれば、訓練データの生成と、利用者による訓練データの特徴を表すデータらしさの判定とを繰り返させつつ、特徴を表すデータらしいと判定される訓練データの数が多くなるか、訓練データにおける特徴を表すデータらしさが増すように特徴を規定するパラメータの確率分布を推定する対話型の最適化処理を行って、教師信号付き訓練データを生成することができるので、利用者がコンピュータを扱う技術を持つことなく、短時間かつ軽負担で膨大な数の教師信号付き訓練データを生成することができる。 According to the present invention, training data with teacher signals can be generated by repeatedly generating training data and having the user determine whether the training data is likely to represent a feature, and then performing an interactive optimization process to estimate the probability distribution of parameters that define the features so that either the number of training data determined to be likely to represent a feature increases, or the likelihood of the training data representing a feature increases.This allows the user to generate a huge amount of training data with teacher signals in a short amount of time with little effort, without having to have computer skills.

(A)は、車体の塗装面の画像データを示す図である。(B)は、同じ塗装面を光の当たり方を変えて撮像して得られる複数の画像データである。1A shows image data of a painted surface of a vehicle body, and FIG. 1B shows a plurality of image data obtained by capturing images of the same painted surface under different lighting conditions. 本発明の実施の形態1に係る訓練データ生成システムの機能構成を示すブロック図である。1 is a block diagram showing a functional configuration of a training data generation system according to a first embodiment of the present invention; 画像データの合成を示す模式図である。FIG. 10 is a schematic diagram showing the composition of image data. 傷を近似する2次曲線の模式図である。FIG. 10 is a schematic diagram of a quadratic curve approximating a scratch. (A)~(D)は、傷の明度に関する態様を示す図であり、(E)は、明線と暗線との間隔を示す模式図である。10A to 10D are diagrams showing aspects related to the brightness of scratches, and FIG. 10E is a schematic diagram showing the interval between bright and dark lines. (A)は、混合ガウス分布による傷の輝度変化の一例を示す模式図である。(B)は、傷の画像データにおける輝度の変化の一例を示す図である。1A is a schematic diagram showing an example of a change in luminance of a flaw due to a Gaussian mixture distribution, and FIG. 1B is a diagram showing an example of a change in luminance in image data of the flaw. 画像データと利用者の判定結果とを結びつける様子を示す模式図である。FIG. 10 is a schematic diagram showing how image data is linked to a user's judgment result. 分散行列適応進化戦略において世代毎に確率分布が変化する様子を示す図である。FIG. 10 is a diagram illustrating how the probability distribution changes for each generation in the variance matrix adaptive evolution strategy. 図2の訓練データ生成システムのハードウエア構成を示すブロック図である。FIG. 3 is a block diagram showing the hardware configuration of the training data generation system of FIG. 2. 図2の訓練データ生成システムの訓練データ生成処理のフローチャートである。3 is a flowchart of a training data generation process of the training data generation system of FIG. 2 .

以下、本発明の実施形態について図面を参照して詳細に説明する。各図面においては、同一又は同等の部分に同一の符号を付す。 Embodiments of the present invention will now be described in detail with reference to the drawings. In each drawing, the same or equivalent parts are designated by the same reference numerals.

本実施の形態に係る訓練データ生成システムは、特徴の有無により分類対象を分類する深層学習器の学習に用いられる教師信号付き訓練データを生成する。本実施の形態では、分類対象は検査対象の外面であり、特徴は検査対象の外面に表れる傷である。また、訓練データは、検査対象の外面の画像データであり、教師信号は特徴の有無、すなわち傷の有無を示す情報である。すなわち、本実施の形態に係る訓練データ生成システムは、検査対象の外面の画像データに表れる傷の有無によりその外面を分類する深層学習器の学習に用いられる傷の有無の情報付き画像データを生成する。 The training data generation system according to this embodiment generates training data with teacher signals used in training a deep learning device that classifies objects based on the presence or absence of features. In this embodiment, the objects to be classified are the outer surfaces of the objects to be inspected, and the features are scratches that appear on the outer surfaces of the objects to be inspected. The training data is image data of the outer surfaces of the objects to be inspected, and the teacher signals are information indicating the presence or absence of features, i.e., the presence or absence of scratches. In other words, the training data generation system according to this embodiment generates image data with information on the presence or absence of scratches that is used in training a deep learning device that classifies the outer surfaces of the objects to be inspected based on the presence or absence of scratches that appear in the image data of the outer surfaces of the objects to be inspected.

特に、本実施の形態に係る訓練データ生成システムは、検査対象の外面を自動車生産工場において塗装された自動車の車体の塗装面とし、分類の基準となる特徴を塗装傷(以下、単に「傷」とする)とする。図1(A)に示すように、例えば2cm四方の塗装面の画像データが撮像され、この画像データを深層学習器に入力し、深層学習器が傷の有る塗装面であるか否かを分類することにより、塗装面の検査が行われる。なお、数千枚の傷有りの塗装面の画像に対して専門家が人手で教師信号を付与した教師信号付き画像データで学習した深層学習器で学習した場合、その深層学習器で95%以上の傷を検知できることが確認されている。 In particular, the training data generation system according to this embodiment uses the paint surface of an automobile body painted at an automobile production plant as the exterior surface to be inspected, and paint scratches (hereinafter simply referred to as "scratches") as the feature used as the basis for classification. As shown in FIG. 1(A), image data of a painted surface, for example, 2 cm square, is captured and input into a deep learning machine, which then classifies the painted surface as scratched or not, thereby inspecting the painted surface. It has been confirmed that when a deep learning machine is trained using image data with teacher signals, in which a teacher signal has been manually added by an expert to thousands of images of scratched painted surfaces, the deep learning machine can detect more than 95% of scratches.

傷のない塗装面の画像データを用意するのに比べ、傷を含む塗装面の画像データを多数用意するのは極めて困難である。また、車体の塗装面は、図1(B)に示すように、同じ塗装面であっても光の当たり方によって全く印象が異なる画像となるうえ、場合によっては実際には存在する傷が写らない場合も多い。このことが、深層学習器による傷の検査を難しくしている。本実施の形態に係る訓練データ生成システムは、塗装面の傷を自動的に検査する深層学習器の学習に必要な膨大な数の教師信号付き画像データを、短時間かつ軽負担で生成する。 Compared to preparing image data of a scratch-free painted surface, preparing a large amount of image data of a painted surface that contains scratches is extremely difficult. Furthermore, as shown in Figure 1(B), even the same painted surface of a vehicle can appear completely different depending on how the light hits it, and in some cases, actual scratches may not be visible. This makes it difficult to inspect for scratches using a deep learning system. The training data generation system of this embodiment generates, in a short amount of time and with little overhead, the enormous amount of image data with teacher signals required for training a deep learning system that automatically inspects painted surfaces for scratches.

[機能構成]
図2に示すように、訓練データ生成システム1は、その機能構成として、訓練データ生成モデル10と、判定部11と、最適化部12と、を備える。
[Functional configuration]
As shown in FIG. 2, the training data generation system 1 includes, as its functional configuration, a training data generation model 10, a determination unit 11, and an optimization unit 12.

[訓練データ生成モデル]
訓練データ生成モデル10が、上述の教師信号付き画像データを生成する。訓練データ生成モデル10は、図3に示すように、塗装面の基準画像データに、傷の画像データを重ね合わせることにより、合成画像データを生成する。すなわち、本実施の形態では、塗装面の基準画像データが傷を有しない塗装面の画像データに対応し、傷の画像データが特徴画像データに対応する。
[Training data generation model]
The training data generation model 10 generates the image data with the teacher signal described above. The training data generation model 10 generates composite image data by superimposing the image data of the flaw on the reference image data of the painted surface, as shown in Fig. 3. That is, in this embodiment, the reference image data of the painted surface corresponds to the image data of the painted surface without a flaw, and the image data of the flaw corresponds to the feature image data.

傷の画像データは、コンピュータグラフィックで生成される画像である。訓練データ生成モデル10は、予め設定されたパラメータの設定値に基づいて、傷の画像データを生成する。このようなパラメータには、例えば以下の様なものがある。
(1)近似曲線のパラメータ
(2)線の明度、組み合わせ、位置関係のパラメータ
(3)画像の平滑化フィルタに関するパラメータ
(4)画像合成に関するパラメータ
(5)混合ガウス分布による傷の輝度変化関連のパラメータ
The image data of the flaw is an image generated by computer graphics. The training data generation model 10 generates the image data of the flaw based on preset parameter settings. Such parameters include, for example, the following:
(1) Parameters of the approximation curve; (2) Parameters of the line brightness, combination, and positional relationship; (3) Parameters related to the image smoothing filter; (4) Parameters related to image synthesis; (5) Parameters related to the brightness change of the flaw due to the mixed Gaussian distribution.

(1)近似曲線のパラメータ
傷は、そのほとんどが線状であり、2次曲線で近似できるものである。そのため2次曲線を規定するパラメータの設定値に基づいて、傷の画像データを生成することができる。本実施の形態では、この2次曲線のパラメータ:σ,aを傷の画像データを生成するためのパラメータとする。
(1) Parameters of Approximation Curve Most scratches are linear and can be approximated by a quadratic curve. Therefore, image data of the scratches can be generated based on the set values of parameters that define the quadratic curve. In this embodiment, the parameters of this quadratic curve: σ c and a are used as parameters for generating image data of the scratches.

図4に示すように、2次曲線の軌跡を示すベクトルをrとする。そして、2次曲線の端点ベクトルをr、rとし、接点が端点を結ぶ線分と平行になる点(中間点)のベクトルをrとする。この場合、ベクトルrは、係数k,k,k,kを用いたベクトルr,r,rの線形結合で表される。
r=(1/k)×(k+k+k)・・・(1)
この2次曲線の中間点rは、以下のように表される。
=(r+r)/2+σμ|r-r
ここで、σは、二次曲線の中間点のベクトルrの分散であり、μは、[0,1]の一様乱数から成るベクトルである。
As shown in Figure 4, let r be the vector that indicates the locus of the quadratic curve. Let r1 and r3 be the endpoint vectors of the quadratic curve, and let r2 be the vector of the point (midpoint) where the tangency is parallel to the line segment connecting the endpoints. In this case, vector r is expressed as a linear combination of vectors r1 , r2 , and r3 using coefficients k0 , k1 , k2 , and k3 .
r=(1/k 0 )×(k 1 r 1 +k 2 r 2 +k 3 r 3 )...(1)
The midpoint r2 of this quadratic curve is expressed as follows:
r 2 = (r 1 + r 3 )/2+σ c μ | r 1r 3 |
where σ c is the variance of the vector r 2 of the midpoints of the quadratic curve, and μ is a vector of uniform random numbers in [0,1].

各係数k,k,k,kは、以下の計算式で表わされる。
=(1-t)(1-2t)
=(4+a)t(1-t)
=t(2t-1)
=k+k+k=1+at(1-t)
ここで、t=0~1である。t=0のときr=rとなり、t=0.5のときr=rとなり、t=1のときr=rとなる。
The coefficients k 0 , k 1 , k 2 , and k 3 are expressed by the following formulas.
k 1 = (1-t) (1-2t)
k 2 = (4+a)t(1-t)
k 3 =t(2t-1)
k 0 =k 1 +k 2 +k 3 =1+at(1-t)
Here, t = 0 to 1. When t = 0, r = r1 , when t = 0.5, r = r2 , and when t = 1, r = r3 .

パラメータaの変化により、2次曲線は、以下のように規定される。
a>0:双曲線
a=0:放物線
a<0:楕円
このように、傷を近似する2次曲線は、中間点rの分散σ及び曲線のパラメータaで決まる。本実施の形態では、σ,aが、最適化の対象となるパラメータとして含められる。
By changing the parameter a, the quadratic curve is defined as follows:
a>0: hyperbola a=0: parabola a<0: ellipse In this way, the quadratic curve that approximates the flaw is determined by the variance σ c of the midpoint r2 and the parameter a of the curve. In this embodiment, σ c and a are included as parameters to be optimized.

(2)線の明度、組み合わせ、位置関係のパラメータ
図5(A)~図5(D)に示すように、光の当たり方によって傷の明度は様々に変化する。例えば、図5(A)に示す画像では、傷は白い明線で構成されており、図5(B)に示す画像では、傷は黒い暗線で構成されている。また、図5(C)に示す画像では、傷は、下のエッジが明るい明線となり、他の部分は暗線で構成されている。図5(D)では、上のエッジが明線となり、他の部分が暗線で構成されている。
(2) Line Brightness, Combination, and Positional Relationship Parameters As shown in Figures 5(A) to 5(D), the brightness of a scratch varies depending on how the light hits it. For example, in the image shown in Figure 5(A), the scratch is composed of white bright lines, while in the image shown in Figure 5(B), the scratch is composed of black dark lines. In the image shown in Figure 5(C), the scratch has a bright line at the bottom edge and dark lines elsewhere. In Figure 5(D), the scratch has a bright line at the top edge and dark lines elsewhere.

本実施の形態では、傷を構成する線が、明線のみであるか、明線と暗線とを組み合わせたものであるか、暗線のみであるかを設定可能な傷の線種Tlineが、最適化の対象となるパラメータとして含められる。また、図5(E)に示すように、明線と、暗線との画像上の間隔Ox、Oyも最適化の対象となるパラメータとして含めることができる。1本の傷における明線、暗線の本数もパラメータとして含めることができる。 In this embodiment, the parameter to be optimized includes the line type T line of the flaw, which can be set to whether the lines constituting the flaw are only light lines, a combination of light and dark lines, or only dark lines. Furthermore, as shown in FIG. 5E, the distances Ox and Oy between the light and dark lines on the image can also be included as parameters to be optimized. The number of light and dark lines in a single flaw can also be included as a parameter.

(3)画像の平滑化フィルタに関するパラメータ
焦点の調整具合,光の当たり方等により傷の鋭さが変化するため,画像を平滑化するフィルタのパラメータを最適化の対象となるパラメータとして含めることができる。例えば、平滑化の強度Tbulrがパラメータとなる。このようなフィルタには、例えばガウシアンフィルタがあるが、これに限定されない。
(3) Parameters Related to Image Smoothing Filters Since the sharpness of a flaw changes depending on the focus adjustment, the lighting conditions, etc., parameters of a filter that smooths the image can be included as parameters to be optimized. For example, the smoothing strength Tbulr is a parameter. Such filters include, but are not limited to, a Gaussian filter.

(4)画像合成に関するパラメータ
図3に示すように、合成画像データは、傷なしの基準画像データと傷の画像データとを重ね合わせて、すなわち基準画像データに傷の画像データを埋め込んで形成される。この場合、合成画像データは、各画素は、基準画像データの画素と傷の画像データの画素との重み付け線形和となる。このそれぞれの重みを、最適化の対象となるパラメータとして含めることができる。
(4) Parameters Related to Image Synthesis As shown in Fig. 3, the composite image data is formed by superimposing flawless reference image data and flawed image data, i.e., by embedding the flawed image data in the reference image data. In this case, each pixel of the composite image data is a weighted linear sum of a pixel of the reference image data and a pixel of the flawed image data. Each of these weights can be included as a parameter to be optimized.

(5)混合ガウス分布による輝度変化関連のパラメータ
図5(D)に示すように、実際の傷の画像では、傷の深さの不均一性や、光の当たり方などにより、傷の明度が変化する。傷の明度の変化は、図6に示すように、混合ガウス分布を用いて表現することができる。したがって、本実施の形態では、図3に示す傷の画像データにおける傷の輝度値を、混合ガウス分布を用いて補正する。混合ガウス分布は、以下の式で表される。
混合ガウス分布は、各分布の平均μ、標準偏差の最大値、最小値σmax、σmin、安定度s、各分布の重みπによって決まる。したがって、これらが最適化の対象となるパラメータとして含められる。なお、重みπについては、以下の制約がある。
ΣΠ=1
(5) Parameters Related to Luminance Changes Due to Gaussian Mixture Distribution As shown in FIG. 5(D), in an image of an actual scratch, the brightness of the scratch changes depending on factors such as the unevenness of the scratch depth and the way the light hits it. The change in brightness of the scratch can be expressed using a Gaussian mixed distribution, as shown in FIG. 6. Therefore, in this embodiment, the brightness value of the scratch in the image data of the scratch shown in FIG. 3 is corrected using a Gaussian mixed distribution. The Gaussian mixed distribution is expressed by the following equation:
The Gaussian mixture distribution is determined by the mean μ k of each distribution, the maximum and minimum standard deviations σ max and σ min , the stability s, and the weight π k of each distribution. Therefore, these are included as parameters to be optimized. Note that the weight π k has the following constraints:
Σ k Π k =1

図3に示す傷の画像データは、上述のパラメータに基づいて生成される。これらパラメータをxk(k=1~Kの自然数)としてまとめる。パラメータxkは、図1に示すパラメータ空間PSの座標軸となる。すなわちパラメータ空間PSは、K次元の空間となる。このパラメータ空間PSの1点1点を示すベクトルVn(n=1~Nの自然数)は、パラメータxkの設定値の組み合わせを示している。本実施の形態では、このベクトルVnを1個体とする。以下、ベクトルVnを個体Vnとも呼ぶ。 The image data of the flaw shown in Figure 3 is generated based on the parameters described above. These parameters are collectively referred to as xk (k = a natural number from 1 to K). The parameters xk become the coordinate axes of the parameter space PS shown in Figure 1. In other words, the parameter space PS is a K-dimensional space. The vector Vn (n = a natural number from 1 to N) representing each point in this parameter space PS represents a combination of the setting values of the parameter xk. In this embodiment, this vector Vn is considered to be one individual. Hereinafter, the vector Vn will also be referred to as the individual Vn.

パラメータ空間PSでは、パラメータxkの組み合わせであるベクトルVnの確率分布PDが規定されている。確率分布PDは、多変量正規分布である。確率分布PDが決まっている場合、訓練データ生成モデル10は、この確率分布PDに従って、ベクトルVnの個体群V1~VNを生成する。個体群V1~VNの抽出は、確率分布PDに従ってランダムに行われる。この場合、抽出される個体Vnは、楕円の中心に向かって密となる。 In the parameter space PS, a probability distribution PD of vector Vn, which is a combination of parameters xk, is defined. The probability distribution PD is a multivariate normal distribution. When the probability distribution PD is determined, the training data generation model 10 generates populations V1 to VN of vector Vn according to this probability distribution PD. The populations V1 to VN are extracted randomly according to the probability distribution PD. In this case, the extracted individuals Vn become denser towards the center of the ellipse.

すなわち、訓練データ生成モデル10は、特徴を規定するパラメータxkを座標軸とするパラメータ空間PSにおけるベクトルVn(n=1~N)を1個体とし、パラメータ空間PSに規定される確率分布PDに従って個体群V1~VNを生成する。さらに、訓練データ生成モデル10は、個体群V1~VNの各個体Vnに対応するパラメータxkの設定値によって規定される画像データTDnを生成する。 In other words, the training data generation model 10 regards each individual as a vector Vn (n = 1 to N) in a parameter space PS, whose coordinate axes are the parameter xk that defines the feature, and generates populations V1 to VN according to a probability distribution PD defined in the parameter space PS. Furthermore, the training data generation model 10 generates image data TDn defined by the set value of the parameter xk corresponding to each individual Vn in the populations V1 to VN.

上述したように、本実施の形態では、訓練データ生成モデル10は、各個体Vnに対応するパラメータxkの設定値によって規定される傷を示す傷の画像データTDnを生成し、図3に示すように、傷を有しない分類対象の基準画像データに、特徴画像データ(傷の画像データ)を重ね合わせることにより、訓練データとしての画像データTDnを生成する。 As described above, in this embodiment, the training data generation model 10 generates scratch image data TDn indicating scratches defined by the set value of parameter xk corresponding to each individual Vn, and generates image data TDn as training data by overlaying the feature image data (scratch image data) on reference image data of the object to be classified that does not have scratches, as shown in Figure 3.

[判定部]
判定部11は、訓練データ生成モデル10で生成された画像データTDnを入力する。判定部11は、画像データTDnそれぞれについて特徴(傷)を表すデータらしさ、すなわち特徴(傷)をどの程度適切に表しているかを利用者Sに判定させる。特徴を表すデータらしさとは、特徴を有しない分類対象の画像データに特徴(傷)を表す画像データを合成した合成画像データであっても、分類対象が実際に特徴を有しているように利用者Sに見える度合いを示す。
[Judgment section]
The determination unit 11 inputs the image data TDn generated by the training data generation model 10. The determination unit 11 has the user S determine the likelihood of each piece of image data TDn representing a feature (flaw), i.e., how appropriately the feature (flaw) is represented. The likelihood of the data representing a feature indicates the degree to which the user S sees the classification target as actually having a feature, even if the synthesized image data is obtained by combining image data representing a feature (flaw) with image data of the classification target that does not have the feature.

本実施の形態では、判定部11は、特徴(傷)の有無を利用者Sに判定させる。具体的には、訓練データ生成システム1は、後述するように、マンマシンインターフェイスとして操作部34及び表示部35を有している。判定部11は、表示部35に、訓練データ生成モデル10によって生成された画像データ(図3の合成画像データ)TDnに基づく画像を表示させる。利用者Sは、表示部35に表示された画像データTDnに基づく画像を見てその画像に特徴(傷)が有るかないかを判定し、その判定結果を操作部34に入力させる。判定部11は、図7に示すように、画像データと、利用者Sの判定結果を教師信号として結びつけて、最適化部12に送る。 In this embodiment, the judgment unit 11 has the user S judge whether or not a feature (blemish) is present. Specifically, as described below, the training data generation system 1 has an operation unit 34 and a display unit 35 as a man-machine interface. The judgment unit 11 causes the display unit 35 to display an image based on image data (synthetic image data in FIG. 3) TDn generated by the training data generation model 10. The user S looks at the image based on the image data TDn displayed on the display unit 35, judges whether or not the image has a feature (blemish), and inputs the judgment result to the operation unit 34. As shown in FIG. 7, the judgment unit 11 links the image data and the judgment result of the user S as a teacher signal and sends it to the optimization unit 12.

[最適化部]
最適化部12は、訓練データ生成モデル10による画像データTDnの生成と、判定部11による画像データTDnの判定とを繰り返させつつ、特徴(傷)を適切に表していると判定される画像データTDnが多くなるか、画像データTDnにおける特徴(傷)を適切に表す度合が増すように、確率分布PDを推定する対話型の最適化処理を行う。対話型の最適化処理とは、利用者との対話を重ね、多点探索型で、メタヒューリスティックに最適値を探索する最適化手法を用いた処理である。
[Optimization section]
The optimization unit 12 performs an interactive optimization process to estimate a probability distribution PD so that the number of image data TDn determined to appropriately represent the feature (flaw) increases or the degree to which the feature (flaw) in the image data TDn is appropriately represented increases, while repeating the generation of image data TDn by the training data generation model 10 and the judgment of the image data TDn by the judgment unit 11. The interactive optimization process is a process that uses an optimization method that searches for an optimal value using a metaheuristic, multi-point search method through repeated dialogue with a user.

本実施の形態では、最適化部12は、最適化処理として、共分散行列適応進化戦略(CMA-ES)を用いた対話型進化計算を行う。CMA-ESは、一般の進化戦略とは異なり、解候補となる個体群V1~VNを直接保持せず、多変量正規分布PD(m、σ、C)により解候補の集団を生成し,目的関数を用いた評価で高評価を得た候補に基づいて、平均m、標準偏差σ及び共分散行列Cを更新することで解の探索を行う最適化処理である。 In this embodiment, the optimization unit 12 performs interactive evolutionary computation using the covariance matrix adaptive evolution strategy (CMA-ES) as the optimization process. Unlike general evolution strategies, CMA-ES does not directly store populations V1 to VN that are solution candidates, but instead generates a population of solution candidates using a multivariate normal distribution PD(m, σ 2 , C), and searches for a solution by updating the mean m, standard deviation σ, and covariance matrix C based on candidates that receive high evaluations using an objective function.

CMA-ESにおいて、例えば、図8に示すように世代gから世代g+1に確率分布PDを更新する場合について説明する。世代を進めるにあたって、その確率分布PDにおいて、生成された個体群V1~VNのうち、傷有りと判定された個体Vn(これらを「エリート」とする)の平均mを次世代の平均mに更新する。また、共分散行列Cは、現世代の共分散行列に、今回のエリートと現世代のmとの差分に基づく共分散行列を加算して得られるRank-μ-updateと、これまでの共分散行列Cの軌跡に基づいて求められるRank-One-Updateとを組み合わせた共分散行列Cに更新される。さらに、標準偏差σは、確率分布PDの世代間の移動の長さが短くなれば小さくし、移動の長さが長くなれば大きくすることにより、更新される。 In CMA-ES, for example, we will explain how to update the probability distribution PD from generation g to generation g+1, as shown in Figure 8. As the generation progresses, the mean m of the individual Vn (referred to as the "elite") determined to have a defect among the generated populations V1 to VN in that probability distribution PD is updated to the mean m of the next generation. Furthermore, the covariance matrix C is updated to a covariance matrix C that combines a Rank-μ-update obtained by adding a covariance matrix based on the difference between the current elite and the current generation's m to the covariance matrix of the current generation, and a Rank-One-Update obtained based on the trajectory of the covariance matrix C up to that point. Furthermore, the standard deviation σ is updated by decreasing it as the length of the inter-generational shift of the probability distribution PD becomes shorter, and increasing it as the length of the shift becomes longer.

最適化部12は、このようにして、多変量正規分布PD(m、σ、C)の平均m、共分散行列C、標準偏差σ、を更新しながら、傷が写っている画像データらしいと判定される画像データTDnが多くなるか、画像データTDnにおける傷を表すデータらしさが増すように多変量正規分布PD(m、σ、C)を探索する。基本的には、初期においては、広い領域で探索を行うため、大きな標準偏差σで探索が行われる。多変量正規分布PD(m、σ、C)が、最適解の存在する領域に近づいていくと、標準偏差σが小さくなっていき、平均mの移動も小さくなる。これにより、最適な多変量正規分布PD(m、σ、C)が得られるようになる。解候補の世代が更新され、例えば、所定回数世代を更新したところで、最適化部12は、最適化処理を終了する。 In this way, the optimization unit 12 searches for the multivariate normal distribution PD(m, σ 2 , C) while updating the mean m, covariance matrix C, and standard deviation σ of the multivariate normal distribution PD(m, σ 2 , C) so that the number of image data TDn determined to be likely to include a scratch increases or the likelihood that the image data TDn represents a scratch increases. Basically, in the initial stage, a search is performed over a wide area, so a large standard deviation σ is used. As the multivariate normal distribution PD(m, σ 2 , C) approaches the area where the optimal solution exists, the standard deviation σ decreases and the movement of the mean m also decreases. This makes it possible to obtain an optimal multivariate normal distribution PD(m, σ 2 , C). The generation of the solution candidate is updated, and the optimization unit 12 terminates the optimization process when the generation has been updated a predetermined number of times, for example.

最適化部12において、最終的に規定された最終世代の多変量正規分布PD(m、σ、C)が、最適化された確率分布PDとなる。訓練データ生成モデル10は、最適化された確率分布PDに従って、個体群の各個体に対応するパラメータxkの設定値によって規定される教師信号付き画像データを生成する。深層学習器は、このようにして生成された教師信号付き画像データを用いて学習を行う。なお、個体群の個体の数は探索時のNと同じとする必要はなく、より多数の個体の画像データを生成することができる。 The multivariate normal distribution PD(m, σ 2 , C) of the final generation finally defined by the optimization unit 12 becomes the optimized probability distribution PD. The training data generation model 10 generates image data with a teacher signal defined by the setting values of the parameter xk corresponding to each individual in the population according to the optimized probability distribution PD. The deep learning device performs learning using the image data with the teacher signal generated in this way. Note that the number of individuals in the population does not need to be the same as N during search, and image data of a larger number of individuals can be generated.

[ハードウエア構成]
図1に示す訓練データ生成システム1は、例えば、図9に示すハードウエア構成を有するコンピュータがソフトウエアプログラムを実現することにより実現される。具体的には、訓練データ生成システム1は、装置全体の制御を司るCPU(Central Processing Unit)21と、CPU21の作業領域等として動作する主記憶部22と、CPU21の動作プログラム等を記憶する外部記憶部23と、操作部24と、表示部25と、入出力部26と、これらを接続する内部バス28から構成される。
[Hardware configuration]
The training data generation system 1 shown in Fig. 1 is realized, for example, by a computer having the hardware configuration shown in Fig. 9 executing a software program. Specifically, the training data generation system 1 is composed of a CPU (Central Processing Unit) 21 that controls the entire device, a main memory unit 22 that operates as a work area for the CPU 21, an external memory unit 23 that stores the operating program of the CPU 21, an operation unit 24, a display unit 25, an input/output unit 26, and an internal bus 28 that connects these units.

主記憶部22は、RAM(Random Access Memory)等から構成されている。主記憶部22には、CPU21によって実行されるプログラム29が外部記憶部23からロードされる。また、主記憶部22は、CPU21の作業領域(データの一時記憶領域)としても用いられる。 The main memory unit 22 is composed of RAM (Random Access Memory) and other components. Programs 29 executed by the CPU 21 are loaded into the main memory unit 22 from the external memory unit 23. The main memory unit 22 is also used as a working area (temporary data storage area) for the CPU 21.

外部記憶部23は、フラッシュメモリ、ハードディスク等の不揮発性メモリから構成される。外部記憶部23には、CPU21に実行させるためのプログラム29が予め記憶されている。 The external storage unit 23 is composed of non-volatile memory such as flash memory or a hard disk. The external storage unit 23 pre-stores a program 29 to be executed by the CPU 21.

操作部24は、キーボード及びマウス等のデバイスと、これらのデバイスを内部バス28に接続するインターフェイス装置から構成されている。 The operation unit 24 consists of devices such as a keyboard and mouse, and an interface device that connects these devices to the internal bus 28.

表示部25は、CRT(Cathode Ray Tube)、液晶モニタ等の表示用デバイスから構成される。 The display unit 25 consists of a display device such as a CRT (Cathode Ray Tube) or LCD monitor.

入出力部26は、外部機器とのデータ送受信を行うインターフェイスである。この入出力部26を介して、訓練データの生成に用いられる画像データ30(例えば図3に示す基準画像データ、合成画像データ)が入出力される。 The input/output unit 26 is an interface for sending and receiving data with external devices. Image data 30 (e.g., the reference image data and composite image data shown in Figure 3) used to generate training data is input and output via this input/output unit 26.

訓練データ生成システム1の機能は、1以上のプロセッサ及び一時的でない記憶媒体を含む1以上の記憶装置を含む1以上のコンピュータからなる計算機システムに実装することができる。複数のコンピュータは、相互に接続された通信ネットワークを介して通信を行いつつ、訓練データ生成システム1の機能を実現する。例えば、訓練データ生成システム1の複数の機能の一部が1つのコンピュータに実装され、他の一部が他のコンピュータに実装されてもよい。 The functions of training data generation system 1 can be implemented in a computer system consisting of one or more computers, each including one or more processors and one or more storage devices, including non-transitory storage media. The multiple computers communicate with each other via an interconnected communications network to realize the functions of training data generation system 1. For example, some of the functions of training data generation system 1 may be implemented in one computer, and other parts may be implemented in other computers.

[動作]
次に、本実施の形態に係る訓練データ生成システム1の動作について説明する。図10に示すように、まず、訓練データ生成モデル10は、傷を規定するパラメータを座標軸とするパラメータ空間に規定される確率分布に従って個体群V1~VNを生成する(ステップS1)。続いて、訓練データ生成モデル10は、個体群V1~VNの各個体Vnに対応するパラメータxkの設定値によって規定される訓練データを生成する(ステップS2)。
[Operation]
Next, the operation of the training data generation system 1 according to this embodiment will be described. As shown in Fig. 10, first, the training data generation model 10 generates populations V1 to VN according to a probability distribution defined in a parameter space whose coordinate axes are parameters defining flaws (step S1). Next, the training data generation model 10 generates training data defined by the set value of the parameter xk corresponding to each individual Vn in the populations V1 to VN (step S2).

続いて、判定部11は、訓練データ生成モデルで生成された訓練データそれぞれについて傷の有無を利用者に判定させる(ステップS3)。 Next, the judgment unit 11 prompts the user to judge whether or not there is a scratch for each piece of training data generated by the training data generation model (step S3).

続いて、最適化部12は、確率分布PDを更新する(ステップS4)。その後、最適化部12は、終了条件を満たすか否かを判定する(ステップS5)。終了条件を満たさない場合(ステップS5;No)、処理は、ステップS1に戻る。その後、終了条件を満たさない間(ステップS5;No)、ステップS1~S5が繰り返される。 Next, the optimization unit 12 updates the probability distribution PD (step S4). After that, the optimization unit 12 determines whether the termination condition is met (step S5). If the termination condition is not met (step S5; No), the process returns to step S1. After that, steps S1 to S5 are repeated as long as the termination condition is not met (step S5; No).

終了条件を満たすと(ステップS5;No)、最適化部12は、最終的な確率分布PDを記憶し(ステップS6)、処理を終了する。 If the termination condition is met (step S5; No), the optimization unit 12 stores the final probability distribution PD (step S6) and terminates the process.

本実施の形態に係る訓練データ生成システム1は、車体の塗装面の傷を検査する深層学習器の学習に用いられる教師信号付き画像データを生成するものである。しかしながら、これには限られない。画像により他の検査対象を検査する深層学習器に適用することも可能である。例えば、コンクリート等の亀裂、フィルム、ゴムシートの表面の傷の検査にも適用することができる。また、交通インフラ、建造物保守点検への応用が可能となる。 The training data generation system 1 according to this embodiment generates image data with teacher signals to be used in training a deep learning device that inspects scratches on the painted surface of a vehicle body. However, this is not limited to this. It can also be applied to a deep learning device that inspects other inspection objects using images. For example, it can be used to inspect cracks in concrete, and scratches on the surface of films and rubber sheets. It can also be applied to the maintenance and inspection of transportation infrastructure and buildings.

[物品の形状検査]
また、本実施の形態に係る訓練データ生成システム1は、特徴の有無により分類対象を分類する深層学習器に適用することができる。例えば、立体物の形状検査等にも適用することができる。立体物に特に制限はなく、商品、文房具あらゆる立体物の検査に用いることが可能である。この場合、訓練データ生成モデル10は、各個体Vnに対応するパラメータxkの設定値によって規定される特徴を表す分類対象の画像データを生成する。
[Inspection of the shape of the item]
Furthermore, the training data generation system 1 according to this embodiment can be applied to a deep learning device that classifies objects based on the presence or absence of features. For example, it can also be applied to inspecting the shape of three-dimensional objects. There are no particular restrictions on the three-dimensional objects, and it can be used to inspect any three-dimensional object, including commercial products and stationery. In this case, the training data generation model 10 generates image data of the objects to be classified that represent features defined by the set values of the parameter xk corresponding to each individual Vn.

この場合に生成される画像データは、分類対象の形状がわかる画像データとなる。このような画像データは、撮像データを加工したものであってもよいし、全体がコンピュータグラフィックで作成された画像であってもよい。なお、特徴は、分類対象の形状となる。形状の他、構造、部品の組合せ、模様、色彩又はこれらの結合も分類の基準となる特徴とすることができる。 The image data generated in this case will be image data that reveals the shape of the object to be classified. Such image data may be processed image data, or may be an image created entirely using computer graphics. The feature will be the shape of the object to be classified. In addition to shape, structure, combination of parts, pattern, color, or a combination of these can also be used as features that serve as the basis for classification.

また、本実施の形態に係る訓練データ生成システム1は、気象観測データ、海洋観測データ又は医療データなどの系列データ、例えば時系列データにも適用することができる。この場合、訓練データ生成モデル10は、前記各個体Vnに対応するパラメータの設定値によって規定される特徴を表す系列データを生成するものであってもよい。 The training data generation system 1 according to this embodiment can also be applied to sequence data, such as time-series data, such as meteorological observation data, oceanographic observation data, or medical data. In this case, the training data generation model 10 may generate sequence data representing characteristics defined by the parameter settings corresponding to each individual Vn.

なお、本実施の形態では、判定部11では、利用者Sに特徴(傷)の有無を判定させたが、これには限らない。例えば、利用者Sに特徴(傷)が写っている画像らしいものを選択させたり、特徴(傷)が写っている画像らしさのスコア付け又はランク付けを利用者に行わせ、特徴(傷)をどの程度適切に表しているかを示す度合いを利用者Sに決定させたりするようにしてもよい。また、利用者Sに2枚の画像データを提示して、どちらが本物の特徴(傷)が写っている画像らしいかを選択させるようにしてもよい。特徴(傷)が写っている画像らしさのスコア付け又はランク付けを利用者Sに行わせたりする場合、最適化部12は、特徴(傷)が写っている画像らしさのスコア又はランクが高くなるように、最適化を行う。 In this embodiment, the determination unit 11 has the user S determine whether or not a feature (flaw) is present, but this is not limited to this. For example, the user S may be asked to select an image that is likely to contain the feature (flaw), or to score or rank the image's likelihood of containing the feature (flaw), and to determine the degree to which the image appropriately represents the feature (flaw). Alternatively, two pieces of image data may be presented to the user S, and the user may be asked to select which of the images is most likely to contain a genuine feature (flaw). When the user S is asked to score or rank the image's likelihood of containing the feature (flaw), the optimization unit 12 performs optimization so that the score or rank of the image's likelihood of containing the feature (flaw) is high.

以上詳細に説明したように、上記実施の形態に係る訓練データ生成システム1によれば、訓練データの生成と、利用者Sによる画像データTDnの特徴を表すデータらしさの判定とを繰り返させつつ、特徴を表すデータらしいと判定される画像データTDnの数が多くなるように特徴を規定するパラメータの確率分布を推定する対話型の最適化処理を行って、教師信号付き訓練データを生成する生成モデルを設計することができる。このため、利用者がコンピュータを扱う技術を持つことなく、短時間かつ軽負担で膨大な数の教師信号付き訓練データを生成することができる。 As explained in detail above, the training data generation system 1 according to the above embodiment repeats the generation of training data and the user S's determination of the likelihood of image data TDn representing a feature, while performing an interactive optimization process to estimate the probability distribution of parameters that define the features so as to increase the number of image data TDn that are determined to be likely to represent a feature, thereby designing a generation model that generates training data with teacher signals. This makes it possible for the user to generate a huge amount of training data with teacher signals in a short amount of time with little burden, without having any computer skills.

なお、上記実施の形態に係る訓練データ生成システム1では、共分散行列適応進化戦略を用いて対話型進化計算により、パラメータの最適な設定値の確率分布を探索している。しかしながら、これには限られない。最適化アルゴリズムとして、分布推定アルゴリズム(EDA:Estimation of Distribution Algorithm)、ベイズ最適化アルゴリズム、PBIL(Population-Based Incremental Learning)、CGA(Compact Genetic Algorithm)などを最適化アルゴリズムとして用いることができる。 Note that the training data generation system 1 according to the above embodiment uses a covariance matrix adaptive evolution strategy to search for the probability distribution of optimal parameter settings through interactive evolutionary computation. However, this is not limited to this. Optimization algorithms that can be used include the Estimation of Distribution Algorithm (EDA), Bayesian optimization algorithm, Population-Based Incremental Learning (PBIL), and Compact Genetic Algorithm (CGA).

訓練データ生成システム1のハードウエア構成やソフトウエア構成は一例であり、任意に変更および修正が可能である。 The hardware and software configurations of the training data generation system 1 are examples and can be changed and modified as desired.

CPU21、主記憶部22、外部記憶部23、操作部24、表示部25、入出力部26及び内部バス28などから構成される訓練データ生成システム1の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD-ROM、DVD-ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する訓練データ生成システム1を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで訓練データ生成システム1を構成してもよい。 The core processing portion of training data generation system 1, which is composed of CPU 21, main memory 22, external memory 23, operation unit 24, display unit 25, input/output unit 26, and internal bus 28, can be realized using an ordinary computer system rather than a dedicated system. For example, a computer program for executing the above operations may be stored and distributed on a computer-readable recording medium (such as a flexible disk, CD-ROM, or DVD-ROM), and the computer program may be installed on a computer to configure training data generation system 1 for executing the above processing. Alternatively, the computer program may be stored in a storage device of a server device on a communications network such as the Internet, and downloaded by an ordinary computer system to configure training data generation system 1.

訓練データ生成システム1の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。 When the functions of the training data generation system 1 are realized by sharing the responsibilities between an OS (operating system) and an application program, or by collaboration between an OS and an application program, only the application program portion may be stored on a recording medium or storage device.

搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)にコンピュータプログラムを掲示し、ネットワークを介してコンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。 It is also possible to superimpose a computer program onto a carrier wave and distribute it over a communications network. For example, the computer program may be posted on a bulletin board system (BBS) on the communications network and distributed over the network. This computer program may then be launched and run under the control of the OS in the same way as any other application program, thereby enabling the above-mentioned processing to be performed.

この発明は、この発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この発明を説明するためのものであり、この発明の範囲を限定するものではない。すなわち、この発明の範囲は、実施の形態ではなく、特許請求の範囲によって示される。そして、特許請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、この発明の範囲内とみなされる。 This invention allows for various embodiments and modifications without departing from the broad spirit and scope of the invention. Furthermore, the above-described embodiments are intended to explain the invention and do not limit the scope of the invention. In other words, the scope of the invention is defined by the claims, not the embodiments. Various modifications made within the scope of the claims and the meaning of the invention equivalent thereto are deemed to be within the scope of the invention.

本発明は、深層学習器の学習に用いられる訓練データの生成に適用することができる。 The present invention can be applied to generating training data used in learning deep learning machines.

1 訓練データ生成システム、10 訓練データ生成モデル、11 判定部、12 最適化部、21 CPU、22 主記憶部、23 外部記憶部、24 操作部、25 表示部、28 内部バス、29 プログラム、30 画像データ、S 利用者、xk パラメータ、Vn 個体、PD 確率分布、PS パラメータ空間 1 Training Data Generation System, 10 Training Data Generation Model, 11 Judgment Unit, 12 Optimization Unit, 21 CPU, 22 Main Memory Unit, 23 External Memory Unit, 24 Operation Unit, 25 Display Unit, 28 Internal Bus, 29 Program, 30 Image Data, S User, xk Parameters, Vn Individuals, PD Probability Distribution, PS Parameter Space

Claims (6)

特徴の有無により分類対象を分類する深層学習器の学習に用いられる教師信号付き訓練データを生成する訓練データ生成システムであって、
前記特徴を規定するパラメータを座標軸とするパラメータ空間におけるベクトルを1個体とし、前記パラメータ空間に規定される確率分布に従って個体群を生成し、前記個体群の各個体に対応するパラメータの設定値によって規定される訓練データを生成する訓練データ生成モデルと、
前記訓練データ生成モデルで生成された訓練データそれぞれについて特徴をどの程度適切に表しているかを利用者に判定させる判定部と、
前記訓練データ生成モデルによる訓練データの生成と、前記判定部における判定とを繰り返させつつ、特徴を適切に表していると判定される前記訓練データが多くなるか、前記訓練データにおける特徴を適切に表す度合が増すように前記確率分布を推定する対話型の最適化処理を行う最適化部と、
を備え
前記最適化部は、
前記最適化処理として、共分散行列適応進化戦略を用いた対話型進化計算を行う、
練データ生成システム。
A training data generation system that generates training data with a teacher signal used for learning a deep learning device that classifies objects to be classified based on the presence or absence of features,
a training data generation model that defines an individual as a vector in a parameter space whose coordinate axes are parameters defining the characteristics, generates a population according to a probability distribution defined in the parameter space, and generates training data defined by setting values of parameters corresponding to each individual in the population;
a determination unit that allows a user to determine how appropriately each piece of training data generated by the training data generation model represents a feature;
an optimization unit that performs an interactive optimization process to estimate the probability distribution while repeating the generation of training data by the training data generation model and the determination by the determination unit, so that the number of training data that are determined to appropriately represent the features increases or the degree to which the features in the training data are appropriately represented increases;
Equipped with
The optimization unit
As the optimization process, interactive evolutionary computation using a covariance matrix adaptive evolution strategy is performed.
Training data generation system.
前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を示す特徴画像データを生成し、
前記特徴を有しない分類対象の基準画像データに、前記特徴画像データを重ね合わせることにより、前記訓練データを生成する、
請求項1に記載の訓練データ生成システム。
The training data generation model is
generating characteristic image data indicating characteristics defined by the setting values of the parameters corresponding to each of the individuals;
generating the training data by superimposing the feature image data on reference image data to be classified that does not have the feature;
The training data generation system of claim 1 .
前記分類対象は、検査対象の外面であり、
前記特徴は、外面に表れる傷又は亀裂であり、
前記基準画像データは、前記特徴を有しない検査対象の外面の画像データであり、
前記特徴画像データは、前記個体に対応するパラメータの設定値によって規定される前記特徴の画像データである、
請求項に記載の訓練データ生成システム。
the classification object is the outer surface of the inspection object,
The feature is a scratch or crack that appears on the outer surface,
the reference image data is image data of an outer surface of the inspection object that does not have the feature;
The feature image data is image data of the feature defined by a set value of a parameter corresponding to the individual.
The training data generation system of claim 2 .
前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を表す分類対象の画像データを生成する、
請求項1に記載の訓練データ生成システム。
The training data generation model is
generating image data to be classified that represent features defined by the parameter setting values corresponding to each of the individuals;
The training data generation system of claim 1 .
前記特徴は、前記分類対象の形状、構造、部品の組合せ、模様、色彩又はこれらの結合に関する特徴である、
請求項に記載の訓練データ生成システム。
The characteristics are characteristics related to the shape, structure, combination of parts, pattern, color, or a combination thereof of the classification object.
The training data generation system of claim 4 .
前記訓練データは、分類対象となる系列データであり、
前記訓練データ生成モデルは、
前記各個体に対応するパラメータの設定値によって規定される特徴を表す前記系列データを生成する、
請求項1に記載の訓練データ生成システム。
the training data is sequence data to be classified,
The training data generation model is
generating the sequence data representing features defined by parameter setting values corresponding to each of the individuals;
The training data generation system of claim 1 .
JP2022190710A 2022-11-29 2022-11-29 Training Data Generation System Active JP7755261B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022190710A JP7755261B2 (en) 2022-11-29 2022-11-29 Training Data Generation System

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022190710A JP7755261B2 (en) 2022-11-29 2022-11-29 Training Data Generation System

Publications (2)

Publication Number Publication Date
JP2024078272A JP2024078272A (en) 2024-06-10
JP7755261B2 true JP7755261B2 (en) 2025-10-16

Family

ID=91377285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022190710A Active JP7755261B2 (en) 2022-11-29 2022-11-29 Training Data Generation System

Country Status (1)

Country Link
JP (1) JP7755261B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021081953A (en) 2019-11-19 2021-05-27 富士通株式会社 Computation program, computation device, and computation method
JP2021163042A (en) 2020-03-31 2021-10-11 パナソニックIpマネジメント株式会社 Learning system, learning method, and detection device
CN113538631A (en) 2020-04-20 2021-10-22 贤智研究株式会社 Computer program, method and apparatus for generating virtual defect images through artificial intelligence models generated based on user input
US20220004881A1 (en) 2020-07-06 2022-01-06 International Business Machines Corporation Clinical model generalization

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021081953A (en) 2019-11-19 2021-05-27 富士通株式会社 Computation program, computation device, and computation method
JP2021163042A (en) 2020-03-31 2021-10-11 パナソニックIpマネジメント株式会社 Learning system, learning method, and detection device
CN113538631A (en) 2020-04-20 2021-10-22 贤智研究株式会社 Computer program, method and apparatus for generating virtual defect images through artificial intelligence models generated based on user input
US20220004881A1 (en) 2020-07-06 2022-01-06 International Business Machines Corporation Clinical model generalization

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
高田 宗一郎 ほか,GANによるデータ拡張を用いた多様なステージ生成,情報処理学会 シンポジウム ゲームプログラミングワークショップ(GPWS),情報処理学会,2022年11月04日,pp. 81-87

Also Published As

Publication number Publication date
JP2024078272A (en) 2024-06-10

Similar Documents

Publication Publication Date Title
JP6695843B2 (en) Device and robot system
US11537277B2 (en) System and method for generating photorealistic synthetic images based on semantic information
JP6895563B2 (en) Robot system, model generation method, and model generation program
KR102282087B1 (en) Method For Applying Learning Data Augmentaion To Deep Learning Model, Apparatus And Method For Classifying Images Using Deep Learning
CN107730568B (en) Coloring method and device based on weight learning
CN114372940B (en) Real scene image synthesis method and system
CN110895795A (en) Improved semantic image inpainting model method
WO2019180868A1 (en) Image generation device, image generation method, and image generation program
CN113870342A (en) Appearance defect detection method, intelligent terminal and storage device
US11488342B1 (en) Material map identification and augmentation
JP7755261B2 (en) Training Data Generation System
US20220076159A1 (en) Entity modification of models
CN115456975B (en) A Real-Time Segmentation Method for Display Defects in Multiple Backgrounds Based on Improved Mask R-CNN
CN116595758A (en) Parameterized design system and parameterized design method for robot research and development application
JP7045103B1 (en) Data Expansion Devices, Data Expansion Systems, and Data Expansion Programs
JP7468088B2 (en) Image processing system and image processing program
Uchida et al. Generation of microscopic structure of solder material with desirable characteristics based on deep learning
Dolhopolov et al. YOLOv8, YOLOv9, and YOLOv10: A Study in Automated Vehicle Damage Detection.
CN117764360A (en) Paint workshop intelligent scheduling method based on graphic neural network
CN116186384A (en) An item recommendation method and system based on the similarity of item implicit features
CN114492734A (en) Image processing method, device, computer equipment and storage medium
JP7314723B2 (en) Image processing system and image processing program
JP7742974B1 (en) Visual inspection system, visual inspection device, visual inspection method, and program
US20240161263A1 (en) Method for inspecting defects of product by using 2d image information
US20240420494A1 (en) Inference device, inference method, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250909

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250925

R150 Certificate of patent or registration of utility model

Ref document number: 7755261

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150