Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7735801B2 - Anomaly detection device, method, and program - Google Patents
[go: Go Back, main page]

JP7735801B2 - Anomaly detection device, method, and program - Google Patents

Anomaly detection device, method, and program

Info

Publication number
JP7735801B2
JP7735801B2 JP2021181775A JP2021181775A JP7735801B2 JP 7735801 B2 JP7735801 B2 JP 7735801B2 JP 2021181775 A JP2021181775 A JP 2021181775A JP 2021181775 A JP2021181775 A JP 2021181775A JP 7735801 B2 JP7735801 B2 JP 7735801B2
Authority
JP
Japan
Prior art keywords
feature
anomaly
anomaly score
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021181775A
Other languages
Japanese (ja)
Other versions
JP2023069705A (en
Inventor
晋吾 八嶋
満 安倍
悠一 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2021181775A priority Critical patent/JP7735801B2/en
Publication of JP2023069705A publication Critical patent/JP2023069705A/en
Application granted granted Critical
Publication of JP7735801B2 publication Critical patent/JP7735801B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Description

本発明は、物体の画像の外観検査により物体の異常を検出する異常検出装置、方法及びプログラムに関する。 The present invention relates to an anomaly detection device, method, and program for detecting anomalies in an object by visually inspecting an image of the object.

従来、物体の画像の外観検査により、物体の異常を検出することが行われている。このような異常検出の手法として、オートエンコーダ(Autoencoder)、ワンクラス・クラスフィケーション(One-class Classification)等が用いられている。 Traditionally, abnormalities in objects are detected by visual inspection of images of the object. Methods used for this type of abnormality detection include autoencoders and one-class classification.

オートエンコーダでは、入力画像から特徴量を抽出し、当該特徴量から入力画像を再現した再構成画像を再構成して、入力画像と再構成画像との誤差に基づいて、異常を検出している(例えば、特許文献1参照)。 An autoencoder extracts features from an input image, reconstructs an image that recreates the input image from the features, and detects anomalies based on the error between the input image and the reconstructed image (see, for example, Patent Document 1).

ワンクラス・クラスフィケーションでは、入力画像から特徴量を抽出し、当該特徴量と学習時の正常な入力画像から抽出された特徴量の中心点との距離に基づいて、異常を検出している(例えば、非特許文献1参照)。 In one-class classification, features are extracted from the input image, and anomalies are detected based on the distance between the feature and the center point of the feature extracted from a normal input image during training (see, for example, Non-Patent Document 1).

特許第6599294号明細書Patent No. 6599294 specification

Ruff, L., Vandermeulen, R., Goernitz, N., Deecke, L., Siddiqui, S.A., Binder, A., Muller, E., Kloft, M., “Deep One-Class Classification”, Proceedings of the 35th International Conference on Machine Learning (2018)Ruff, L., Vandermeulen, R., Goernitz, N., Deecke, L., Siddiqui, S.A., Binder, A., Muller, E., Kloft, M., “Deep One-Class Classification”, Proceedings of the 35th International Conference on Machine Learning (2018)

従来のワンクラス・クラスフィケーション、オートエンコーダ等の異常検出の手法では、物体に異常があるにもかかわらずこれを検出できない異常の取り零しが発生するおそれがある。 Conventional anomaly detection methods such as one-class classification and autoencoders run the risk of missing anomalies, failing to detect them even when they exist in an object.

本発明は上記課題に鑑みてなされたものであり、その目的は、異常検出における異常の取り零しを防止することが可能な異常検出装置、方法及びプログラムを提供することにある。 The present invention was made in consideration of the above-mentioned problems, and its purpose is to provide an anomaly detection device, method, and program that can prevent abnormalities from being overlooked during anomaly detection.

本発明の第1実施態様は、入力画像から特徴量を抽出する特徴量抽出部と、前記特徴量から再構成画像を構成する画像再構成部と、前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算部と、前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算部と、前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定部と、を具備する異常検出装置である。 A first embodiment of the present invention is an anomaly detection device comprising: a feature extraction unit that extracts features from an input image; an image reconstruction unit that constructs a reconstructed image from the features; a feature anomaly score calculation unit that calculates a feature anomaly score indicating the distance between the feature and a predetermined center point; a reconstruction anomaly score calculation unit that calculates a reconstruction anomaly score indicating the error between the reconstructed image and the input image; and an anomaly determination unit that determines an anomaly using both the feature anomaly score and the reconstruction anomaly score.

本実施態様では、特徴量異常スコアと再構成異常スコアとは、取り零し得る異常について互いに相補的な性質を有するところ、特徴量異常スコアと再構成異常スコアとの両方を用いて異常を判定しているため、異常検出における異常の取り零しを防止することが可能となっている。 In this embodiment, the feature anomaly score and the reconstructed anomaly score have complementary properties with respect to anomalies that may be overlooked. Since anomalies are determined using both the feature anomaly score and the reconstructed anomaly score, it is possible to prevent anomalies from being overlooked during anomaly detection.

本発明の第2実施態様は、第1実施態様の異常検出装置の学習を行う学習装置であって、前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新部と、前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新部と、前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化部と、を具備する学習装置である。 A second embodiment of the present invention is a learning device that performs training on the anomaly detection device of the first embodiment, and includes a feature extraction update unit that updates the feature extraction unit using the feature anomaly score as a loss function, an image reconstruction update unit that updates the feature extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function, and a gradient regularization unit that updates the image reconstruction unit so as to regularize the gradient of the image reconstruction unit.

本実施態様では、異常検出装置の学習において、画像再構成部の勾配を正則化するように学習を行っているため、学習済みの異常検出装置において、異常検出における特徴量異常スコアと再構成異常スコアとの相補性を促進することができ、異常検出における異常の取り零しをさらに確実に防止することが可能となっている。 In this embodiment, the anomaly detection device is trained to regularize the gradient of the image reconstruction unit. This promotes complementarity between the feature anomaly score and the reconstructed anomaly score in anomaly detection in the trained anomaly detection device, making it possible to more reliably prevent anomalies from being overlooked in anomaly detection.

本発明の第3実施態様は、入力画像から特徴量を抽出する特徴量抽出ステップと、前記特徴量から再構成画像を構成する画像再構成ステップと、前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算ステップと、前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算ステップと、前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定ステップと、を具備する異常検知方法である。
本実施態様では、第1実施態様と同様の作用効果を奏する。
A third embodiment of the present invention is an anomaly detection method comprising: a feature extraction step of extracting features from an input image; an image reconstruction step of constructing a reconstructed image from the features; a feature anomaly score calculation step of calculating a feature anomaly score indicating a distance between the feature and a predetermined center point; a reconstructed anomaly score calculation step of calculating a reconstructed anomaly score indicating an error between the reconstructed image and the input image; and an anomaly determination step of determining an anomaly using both the feature anomaly score and the reconstructed anomaly score.
This embodiment provides the same effects as the first embodiment.

本発明の第4実施態様は、第1実施態様の異常検知装置の学習方法であって、前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新ステップと、前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新ステップと、前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化ステップと、を具備する学習方法である。
本実施態様では、第2実施態様と同様の作用効果を奏する。
A fourth embodiment of the present invention is a learning method for the anomaly detection device of the first embodiment, comprising: a feature extraction updating step of updating the feature extraction unit using the feature anomaly score as a loss function; an image reconstruction updating step of updating the feature extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function; and a gradient regularization step of updating the image reconstruction unit so as to regularize the gradient of the image reconstruction unit.
This embodiment provides the same effects as the second embodiment.

本発明の第5実施態様は、コンピュータに、入力画像から特徴量を抽出する特徴量抽出機能と、前記特徴量から再構成画像を構成する画像再構成機能と、前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算機能と、前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算機能と、前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定機能と、を実現させる異常検出プログラムである。
本実施態様では、第1実施態様と同様の作用効果を奏する。
A fifth embodiment of the present invention is an anomaly detection program that causes a computer to realize a feature extraction function that extracts features from an input image, an image reconstruction function that constructs a reconstructed image from the features, a feature anomaly score calculation function that calculates a feature anomaly score that indicates the distance between the feature and a predetermined center point, a reconstruction anomaly score calculation function that calculates a reconstruction anomaly score that indicates the error between the reconstructed image and the input image, and an anomaly determination function that determines an anomaly using both the feature anomaly score and the reconstruction anomaly score.
This embodiment provides the same effects as the first embodiment.

本発明の第6実施態様は、第1実施態様の異常検出装置の学習を行うための学習プログラムであって、コンピュータに、前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新機能と、前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新機能と、前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化機能と、を実現させる学習プログラムである。
本実施態様では、第2実施態様と同様の作用効果を奏する。
A sixth embodiment of the present invention is a learning program for training the anomaly detection device of the first embodiment, which causes a computer to realize a feature extraction update function for updating the feature extraction unit using the feature anomaly score as a loss function, an image reconstruction update function for updating the feature extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function, and a gradient regularization function for updating the image reconstruction unit so as to regularize the gradient of the image reconstruction unit.
This embodiment provides the same effects as the second embodiment.

本発明では、異常検出における異常の取り零しを防止することが可能となっている。 This invention makes it possible to prevent abnormalities from being overlooked during anomaly detection.

本発明の一実施形態の異常検出装置を示すブロック図。1 is a block diagram showing an anomaly detection device according to an embodiment of the present invention; 本発明の一実施形態の学習装置を示すブロック図。FIG. 1 is a block diagram showing a learning device according to an embodiment of the present invention. 本発明の一実施形態の異常検出方法を示すフロー図。FIG. 2 is a flow diagram illustrating an anomaly detection method according to an embodiment of the present invention. 本発明の一実施形態の学習方法を示すフロー図。1 is a flow diagram illustrating a training method according to an embodiment of the present invention. 本発明の一実施形態の入力画像を示す模式図。FIG. 2 is a schematic diagram showing an input image according to an embodiment of the present invention.

以下、本発明の一実施形態の概要について説明する。
物体の画像の外観検査により、物体の異常を検出する異常検出については、従来多種多様な異常検出の手法が用いられている。本願の発明者は、このような多種多様な異常検出の手法の内、オートエンコーダ(Autoencoder)とワンクラス・クラスフィケーション(One-class Classification)とは、取り零し得る異常について相補的な性質があることを初めて発見し、本実施形態に想到したものである。本実施形態の異常検出については、オートエンコーダとワンクラス・クラスフィケーションとを組み合わせ、これらの相補性を利用することにより、異常の取り零しを防止することを可能としたものである。さらに、本実施形態の異常検出については、オートエンコーダとワンクラス・クラスフィケーションとを組み合わせるのに加えて、学習時において、オートエンコーダの画像再構成部分の勾配を正則化するように学習を行うことで、学習済みの異常検出装置において、異常検出時における相補性を促進し、異常の取り零しをさらに確実に防止することを可能としたものである。
An outline of one embodiment of the present invention will be described below.
A wide variety of anomaly detection techniques have been used to detect anomalies in an object by visually inspecting an image of the object. The inventors of the present application were the first to discover that among these various anomaly detection techniques, autoencoders and one-class classification have complementary properties with regard to anomalies that may be overlooked, leading to the invention of the present embodiment. The anomaly detection of the present embodiment combines autoencoders and one-class classification and utilizes their complementary properties to prevent overlooking of anomalies. Furthermore, in addition to combining autoencoders and one-class classification, the anomaly detection of the present embodiment is trained to regularize the gradient of the image reconstruction portion of the autoencoder. This promotes the complementary properties during anomaly detection in a trained anomaly detection device, thereby enabling more reliable prevention of overlooking of anomalies.

図1乃至図5を参照し、本発明の一実施形態について説明する。
図1を参照し、本実施形態の異常検出装置について説明する。
An embodiment of the present invention will be described with reference to FIGS.
The abnormality detection device of this embodiment will be described with reference to FIG.

異常検出装置では、特徴量抽出部12は、次式(1)に示されるように、入力画像Xから特徴量としての特徴ベクトルZを抽出する。ここで、φは特徴量抽出部12のパラメータを示す。
特徴量抽出部12は、畳み込みニューラルネットワーク、多層パーセプトロン等によって形成されている。特徴量抽出部12として、所定の学習データセットを用いて事前学習を行った初期ネットワークを用いるようにしてもよい。
In the anomaly detection device, the feature extraction unit 12 extracts a feature vector Z as a feature from the input image X, as shown in the following equation (1): where φ represents a parameter of the feature extraction unit 12.
The feature extraction unit 12 is formed by a convolutional neural network, a multilayer perceptron, etc. As the feature extraction unit 12, an initial network that has been pre-trained using a predetermined training data set may be used.

画像再構成部14は、次式(2)に示されるように、特徴量抽出部12によって入力画像Xから抽出された特徴ベクトルZから、入力画像Xを再現した再構成画像X^を再構成する。ここで、ψは画像再構成部14のパラメータを示す。
画像再構成部14は、畳み込みニューラルネットワーク、多層パーセプトロン等によって形成されている。
The image reconstruction unit 14 reconstructs a reconstructed image X̂ that reproduces the input image X from the feature vector Z extracted from the input image X by the feature extraction unit 12, as shown in the following equation (2), where ψ represents a parameter of the image reconstruction unit 14.
The image reconstruction unit 14 is formed by a convolutional neural network, a multilayer perceptron, or the like.

特徴量異常スコア計算部16は、特徴量異常スコアL1を算出する。特徴量異常スコアL1は、特徴ベクトル空間における、入力画像Xから特徴量抽出部12によって抽出された特徴ベクトルZと、所定の中心点としての中心ベクトルCとの距離を示す。特徴量異常スコアL1としては、次式(3)に示されるように、特徴ベクトルZと中心ベクトルCとの任意のノルム等が用いられ、例えばL2ノルムが用いられる。
また、所定の中心ベクトルCとしては、(ア)初期ネットワークの学習時において入力画像から抽出された特徴ベクトルの平均値、(イ)異常検知装置の学習時において入力画像から抽出された特徴ベクトルの指数移動平均値等が用いられる。
The feature anomaly score calculation unit 16 calculates the feature anomaly score L1 . The feature anomaly score L1 indicates the distance in the feature vector space between the feature vector Z extracted from the input image X by the feature extraction unit 12 and the central vector C as a predetermined central point. As the feature anomaly score L1 , an arbitrary norm of the feature vector Z and the central vector C is used, for example, the L2 norm, as shown in the following equation (3).
Furthermore, the predetermined central vector C may be (a) the average value of the feature vectors extracted from the input image when training the initial network, or (b) the exponential moving average value of the feature vectors extracted from the input image when training the anomaly detection device.

異常検知装置の学習時には、特徴量異常スコアL1を損失関数とし、正常な入力画像Xから抽出される特徴ベクトルZが中心ベクトルCに近づくように、特徴量抽出部12のパラメータφの更新が行われる。このため、異常検知装置による異常検知時に、異常な入力画像Xが入力された場合には、特徴量異常スコアL1が大きくなることが期待される。 During training of the anomaly detection device, the feature anomaly score L1 is used as a loss function, and the parameter φ of the feature extraction unit 12 is updated so that the feature vector Z extracted from a normal input image X approaches the central vector C. For this reason, when an abnormal input image X is input during anomaly detection by the anomaly detection device, the feature anomaly score L1 is expected to increase.

再構成異常スコア計算部18は、再構成異常スコアL2を算出する。再構成異常スコアL2は、画像空間における、特徴ベクトルZから画像再構成部14によって再構成された再構成画像X^と、元の入力画像Xとの誤差を示す。再構成異常スコアL2としては、次式(4)に示されるように、再構成画像X^と入力画像Xとの任意の誤差関数distが用いられる。
誤差関数distとしては、L2ノルム等を用いてもよいし、SSIM(structural similarity)のような画像に特有の指標を用いるようにしてもよい。
The reconstructed anomaly score calculation unit 18 calculates the reconstructed anomaly score L2 . The reconstructed anomaly score L2 indicates the error in image space between the reconstructed image X^ reconstructed by the image reconstruction unit 14 from the feature vector Z and the original input image X. As the reconstructed anomaly score L2 , an arbitrary error function dist between the reconstructed image X^ and the input image X is used, as shown in the following equation (4).
The error function dist may be an L2 norm or an index specific to an image, such as SSIM (structural similarity).

異常検知装置の学習時には、再構成異常スコアL2を損失関数とし、正常な入力画像Xから構成される再構成画像X^が元の入力画像Xに近似するように、特徴量抽出部12及び画像再構成部14のパラメータφ及びψの更新が行われる。このため、異常検知装置による異常検知時に、異常な入力画像Xが入力された場合には、再構成異常スコアL2が大きくなることが期待される。 During training of the anomaly detection device, the reconstructed anomaly score L2 is used as a loss function, and the parameters φ and ψ of the feature extraction unit 12 and the image reconstruction unit 14 are updated so that the reconstructed image X̂ constructed from a normal input image X approximates the original input image X. For this reason, when an abnormal input image X is input during anomaly detection by the anomaly detection device, the reconstructed anomaly score L2 is expected to increase.

異常スコア統合部20は、統合異常スコアLを算出する。統合異常スコアLは、特徴量異常スコア計算部16によって算出された特徴量異常スコアL1と、再構成異常スコア計算部18によって算出された再構成異常スコアL2とを統合したものである。 The anomaly score integrating unit 20 calculates an integrated anomaly score L. The integrated anomaly score L is obtained by integrating the feature amount anomaly score L1 calculated by the feature amount anomaly score calculating unit 16 and the reconstructed anomaly score L2 calculated by the reconstructed anomaly score calculating unit 18.

ここで、特徴量異常スコアL1と再構成異常スコアL2とは、取り零し得る異常について相補的な性質を有している。即ち、(i)異常な入力画像Xが入力されたにもかかわらず、特徴量異常スコアL1が小さくなっている場合には、特徴ベクトル空間において、特徴ベクトルZは中心ベクトルCに近くなっているため、画像空間において、当該特徴ベクトルZから再構成された再構成画像X^は、正常な入力画像に近似したものとなるはずであり、元の異常な入力画像Xとの誤差は大きなものとなるから、再構成画像X^と入力画像Xとの誤差を示す再構成異常スコアL2は、大きなものとなる。一方、(ii)異常な入力画像Xが入力されたにもかかわらず、再構成異常スコアL2が小さくなっている場合には、画像空間において、再構成画像X^と元の異常な入力画像Xとの誤差は小さくなっており、特徴ベクトル空間において、異常な入力画像Xに近似した再構成画像X^を再構成した特徴ベクトルZは、中心ベクトルCから遠くなっているはずであるから、特徴ベクトルZと中心ベクトルCとの距離を示す特徴量異常スコアL1は、大きなものとなる。 Here, the feature anomaly score L1 and the reconstructed anomaly score L2 have complementary properties with respect to anomalies that can be eliminated. That is, (i) if the feature anomaly score L1 is small despite the input of an abnormal input image X, then in the feature vector space, the feature vector Z is close to the center vector C. Therefore, in the image space, the reconstructed image X^ reconstructed from the feature vector Z should be similar to the normal input image. Since the error between the original abnormal input image X and the reconstructed image X^ is large, the reconstructed anomaly score L2 , which indicates the error between the reconstructed image X^ and the input image X, is large. On the other hand, (ii) if the reconstructed anomaly score L2 is small despite the input of an abnormal input image X , then in the image space, the error between the reconstructed image X^ and the original abnormal input image X is small. Therefore, in the feature vector space, the feature vector Z reconstructed from the reconstructed image X^ that approximates the abnormal input image X should be far from the center vector C. Therefore, the feature anomaly score L1 , which indicates the distance between the feature vector Z and the center vector C, is large.

異常スコア統合部20は、特徴量異常スコアL1と再構成異常スコアL2とを相補性を維持しつつ統合して、統合異常スコアLを算出する。統合異常スコアLとしては、次式(5)に示されるように、特徴量異常スコアL1と再構成異常スコアL2とを重み付けして合算したもの等が用いられる。
ここで、λ1及びλ2は、夫々、特徴量異常スコアL1及び再構成異常スコアL2の重みを示す。重みλ1及びλ2については、任意に設定可能であり、(ア)異常検出装置の学習時に用いた正常な入力画像Xの特徴量異常スコアL1、再構成異常スコアL2の平均値の逆数、(イ)検証画像が用意できる場合には、正常な検証画像の特徴量異常スコアL1、再構成異常スコアL2の平均値の逆数等が用いられる。
The anomaly score integrating unit 20 integrates the feature amount anomaly score L1 and the reconstructed anomaly score L2 while maintaining their complementarity to calculate an integrated anomaly score L. The integrated anomaly score L may be, for example, a weighted sum of the feature amount anomaly score L1 and the reconstructed anomaly score L2 , as shown in the following equation (5):
Here, λ1 and λ2 represent the weights of the feature anomaly score L1 and the reconstructed anomaly score L2 , respectively. The weights λ1 and λ2 can be set arbitrarily, and (a) the reciprocal of the average value of the feature anomaly score L1 and the reconstructed anomaly score L2 of the normal input image X used when training the anomaly detection device, or ( b ) if a verification image is available, the reciprocal of the average value of the feature anomaly score L1 and the reconstructed anomaly score L2 of the normal verification image, etc., can be used.

異常判定部22は、互いに相補性を有する特徴量異常スコアL1と再構成異常スコアL2との両方を用いて、入力画像Xの異常を判定する。本実施形態では、異常判定部22は、異常スコア統合部20によって算出された統合異常スコアLを用いて、入力画像Xの異常を判定する。例えば、異常判定部22は、統合異常スコアLが所定の閾値以上の場合に、入力画像Xに異常があると判定する。 The anomaly determination unit 22 determines an anomaly in the input image X using both the feature amount anomaly score L1 and the reconstructed anomaly score L2 , which are complementary to each other. In this embodiment, the anomaly determination unit 22 determines an anomaly in the input image X using the integrated anomaly score L calculated by the anomaly score integrating unit 20. For example, the anomaly determination unit 22 determines that the input image X has an anomaly when the integrated anomaly score L is equal to or greater than a predetermined threshold.

図2を参照し、本実施形態の学習装置について説明する。
本実施形態の学習装置については、本実施形態の異常検出装置の学習を行うものであり、正常な入力画像Xを用いて学習を行う。
The learning device of this embodiment will be described with reference to FIG.
The learning device of this embodiment is used to train the anomaly detection device of this embodiment, and performs the training using a normal input image X.

学習装置では、特徴量抽出更新部32は、特徴量異常スコア計算部16によって算出された特徴量異常スコアL1を損失関数として、特徴量抽出部12のパラメータφを更新する。ここで、特徴量異常スコアL1は、特徴ベクトル空間における特徴ベクトルZと中心ベクトルCとの距離を示すものであり、正常な入力画像Xから抽出される特徴ベクトルZが中心ベクトルCに近づくように、特徴量抽出部12のパラメータφの更新が行われることになる。このため、異常検知装置による異常検知時に、異常な入力画像Xが入力された場合には、特徴量異常スコアL1が大きくなることが期待される。 In the learning device, the feature extraction update unit 32 updates the parameter φ of the feature extraction unit 12 using the feature anomaly score L1 calculated by the feature anomaly score calculation unit 16 as a loss function. Here, the feature anomaly score L1 indicates the distance between the feature vector Z and the central vector C in the feature vector space, and the parameter φ of the feature extraction unit 12 is updated so that the feature vector Z extracted from a normal input image X approaches the central vector C. For this reason, if an abnormal input image X is input during anomaly detection by the anomaly detection device, the feature anomaly score L1 is expected to increase.

画像再構成更新部34は、再構成異常スコア計算部18によって算出された再構成異常スコアL2を損失関数として、特徴量抽出部12及び画像再構成部14のパラメータφ及びψを更新する。ここで、再構成異常スコアL2は、画像空間における再構成画像X^と元の入力画像Xとの誤差を示すものであり、正常な入力画像Xから構成される再構成画像X^が元の入力画像Xに近似するように、特徴量抽出部12及び画像再構成部14のパラメータφ及びψの更新が行われることになる。このため、異常検知装置による異常検知時に、異常な入力画像Xが入力された場合には、再構成異常スコアL2が大きくなることが期待される。 The image reconstruction update unit 34 updates the parameters φ and ψ of the feature extraction unit 12 and the image reconstruction unit 14 using the reconstructed anomaly score L2 calculated by the reconstructed anomaly score calculation unit 18 as a loss function. Here, the reconstructed anomaly score L2 indicates the error between the reconstructed image X^ and the original input image X in image space, and the parameters φ and ψ of the feature extraction unit 12 and the image reconstruction unit 14 are updated so that the reconstructed image X^ constructed from the normal input image X approximates the original input image X. For this reason, if an abnormal input image X is input when the anomaly detection device detects an anomaly, the reconstructed anomaly score L2 is expected to increase.

勾配正則化部36は、画像再構成部14の勾配を正則化するように、画像再構成部14のパラメータψを更新する。
ここで、特徴量異常スコアL1と再構成異常スコアL2とは、上述したとおり、取り零し得る異常について相補的な性質を有している。特徴量異常スコアL1と再構成異常スコアL2との相補性が発揮されるためには、画像再構成部14の勾配が一定程度には正則化され、画像再構成部14が関数として一定程度には滑らかである必要がある。そして、画像再構成部14の勾配の正則化が促進され、画像再構成部14が関数として滑らかになるほど、特徴量異常スコアL1と再構成異常スコアL2との相補性が促進される。換言すれば、特徴ベクトル空間における特徴ベクトルZの変化に対して、特徴ベクトルZから再構成される再構成画像X^が、画像空間において無関係に変化する又は極度に大きく変化する場合には、上述した特徴量異常スコアL1と再構成異常スコアL2との相補性(i)(ii)は成立しなくなる。一方で、特徴ベクトル空間における特徴ベクトルZの変化に対して、特徴ベクトルZから再構成される再構成画像X^の画像空間における変化が近似しているほど、上述した特徴量異常スコアL1と再構成異常スコアL2との相補性(i)(ii)が促進されることになる。
The gradient regularizer 36 updates the parameter ψ of the image reconstructor 14 so as to regularize the gradient of the image reconstructor 14 .
As described above, the feature anomaly score L1 and the reconstructed anomaly score L2 are complementary with respect to anomalies that can be eliminated. For the complementarity between the feature anomaly score L1 and the reconstructed anomaly score L2 to be realized, the gradient of the image reconstructor 14 must be regularized to a certain degree, and the image reconstructor 14 must be smooth as a function to a certain degree. The more the gradient of the image reconstructor 14 is regularized and the smoother the function of the image reconstructor 14, the more the complementarity between the feature anomaly score L1 and the reconstructed anomaly score L2 is enhanced. In other words, if the reconstructed image X^ reconstructed from the feature vector Z changes independently or extremely significantly in image space with respect to changes in the feature vector Z in the feature vector space, the complementarity (i) and (ii) between the feature anomaly score L1 and the reconstructed anomaly score L2 described above will no longer be valid. On the other hand, the more closely the change in the image space of the reconstructed image X^ reconstructed from the feature vector Z corresponds to the change in the feature vector Z in the feature vector space, the more the complementarity (i) and (ii) between the feature anomaly score L1 and the reconstructed anomaly score L2 described above is promoted.

本実施形態では、勾配正則化部36は、画像再構成部14の勾配の正則化を促進する勾配正則化項L3を損失関数として、画像再構成部14のパラメータψを更新することにより、画像再構成部14の勾配を正則化する。勾配正則化項L3としては、次式(6)で示されるように、画像再構成部14の中心ベクトルCにおけるヤコビアンのフロベニウスノルム等が用いられる。
画像再構成部14の中心ベクトルCにおけるヤコビアンのフロベニウスノルムについては、入力画像のサイズが比較的小さい場合には、上式(6)を用いて直接計算するようにしてもよく、入力画像のサイズが比較的大きく、直接計算することが困難である場合には、次式(7)に示されるように、ランダム射影による近似を用いてもよい。
In this embodiment, the gradient regularizer 36 regularizes the gradient of the image reconstructor 14 by updating the parameter ψ of the image reconstructor 14 using, as a loss function, the gradient regularization term L3 that promotes regularization of the gradient of the image reconstructor 14. As the gradient regularization term L3 , the Frobenius norm of the Jacobian of the center vector C of the image reconstructor 14, or the like, is used, as shown in the following equation (6).
The Frobenius norm of the Jacobian for the central vector C of the image reconstruction unit 14 may be calculated directly using the above equation (6) when the size of the input image is relatively small, or may be calculated using a random projection approximation as shown in the following equation (7) when the size of the input image is relatively large and direct calculation is difficult.

本実施形態の一変形例の勾配正則化部36は、スペクトル正規化を用いて、画像再構成部14の勾配を正則化する。即ち、次式(8)に示されるように、画像再構成部14の各層のパラメータωを、近似的に算出した最大特異値σ(ω)により正規化することで、画像再構成部14の各層の勾配を正則化する。
なお、スペクトル正規化については、下記の文献等に開示されている。
Miyato, T., and Kataoka, T. and Koyama, M. and Yoshida, Y., “Spectral Normalization for Generative Adversarial Networks”, Proceedings of the 6th International Conference on Learning Representations (2018)
The gradient regularizer 36 of one modified example of this embodiment uses spectral normalization to regularize the gradients of the image reconstructor 14. That is, as shown in the following equation (8), the parameter ω of each layer of the image reconstructor 14 is normalized by the maximum singular value σ(ω) calculated approximately, thereby regularizing the gradients of each layer of the image reconstructor 14.
Spectral normalization is disclosed in the following documents, etc.
Miyato, T., and Kataoka, T. and Koyama, M. and Yoshida, Y., “Spectral Normalization for Generative Adversarial Networks”, Proceedings of the 6th International Conference on Learning Representations (2018)

また、勾配正則化部36に加えて、画像再構成部14のモデル自体を単純化することで、画像再構成部14の勾配を正則化し、画像再構成部14を関数として滑らかにするようにしてもよい。画像再構成部14のモデル自体の単純化としては、画像再構成部14のモデルを構成する層の積層数を少なくする等が用いられる。 In addition to the gradient regularization unit 36, the model of the image reconstruction unit 14 itself may be simplified to regularize the gradient of the image reconstruction unit 14 and smooth the image reconstruction unit 14 as a function. The model of the image reconstruction unit 14 itself may be simplified by, for example, reducing the number of stacked layers that make up the model of the image reconstruction unit 14.

図3を参照して、本実施形態の異常検出方法について説明する。
図3に示されるように、異常検出方法については、以下の各ステップを有する。
The abnormality detection method of this embodiment will be described with reference to FIG.
As shown in FIG. 3, the anomaly detection method includes the following steps.

特徴ベクトル抽出ステップS12
特徴ベクトル抽出ステップS12では、特徴量抽出部12によって、入力画像Xから特徴ベクトルZを抽出する。
Feature vector extraction step S12
In the feature vector extraction step S12, the feature amount extraction unit 12 extracts a feature vector Z from the input image X.

画像再構成ステップS14
画像再構成ステップS14では、画像再構成部14によって、特徴量抽出ステップS16において入力画像Xから抽出された特徴ベクトルZから、入力画像Xを再現した再構成画像X^を再構成する。
Image reconstruction step S14
In the image reconstruction step S14, the image reconstruction unit 14 reconstructs a reconstructed image X^ that reproduces the input image X from the feature vector Z extracted from the input image X in the feature extraction step S16.

特徴量異常スコア計算ステップS16
特徴量異常スコア計算ステップS16では、特徴量異常スコア計算部16によって、特徴量異常スコアL1を算出する。特徴量異常スコアL1は、特徴ベクトル空間における、特徴ベクトル抽出ステップS12において入力画像Xから抽出された特徴ベクトルZと、所定の中心ベクトルCとの距離を示す。
Feature abnormality score calculation step S16
In the feature anomaly score calculation step S16, the feature anomaly score calculation unit 16 calculates a feature anomaly score L1 . The feature anomaly score L1 indicates the distance between the feature vector Z extracted from the input image X in the feature vector extraction step S12 and a predetermined center vector C in the feature vector space.

再構成異常スコア計算ステップS18
再構成異常スコア計算ステップS18では、再構成異常スコア計算部18によって、再構成異常スコアL2を算出する。再構成異常スコアL2は、画像空間における、画像再構成ステップS14において再構成された再構成画像Z^と、元の入力画像Xとの誤差を示す。
Reconstruction abnormality score calculation step S18
In the reconstruction anomaly score calculation step S18, the reconstruction anomaly score L2 is calculated by the reconstruction anomaly score calculation unit 18. The reconstruction anomaly score L2 indicates the error in the image space between the reconstructed image Ẑ reconstructed in the image reconstruction step S14 and the original input image X.

異常スコア統合ステップS20
異常スコア統合ステップS20では、異常スコア統合部20によって、特徴量異常スコア計算ステップS16において算出された特徴量異常スコアL1と、再構成異常スコア計算ステップS18において算出された再構成異常スコアL2と、を相補性を維持するように統合して、統合異常スコアLを算出する。
Anomaly score integration step S20
In the anomaly score integration step S20, the anomaly score integration unit 20 integrates the feature amount anomaly score L1 calculated in the feature amount anomaly score calculation step S16 and the reconstructed anomaly score L2 calculated in the reconstructed anomaly score calculation step S18 while maintaining complementarity, to calculate an integrated anomaly score L.

異常判定ステップS22
異常判定ステップS22では、異常判定部22によって、互いに相補性を有する特徴量異常スコアL1と再構成異常スコアL2との両方を用いて、入力画像Xの異常を判定する。本実施形態では、異常スコア統合ステップS20において算出された統合異常スコアLを用いて、入力画像Xの異常を判定する。
Abnormality determination step S22
In the anomaly determination step S22, the anomaly determination unit 22 uses both the feature amount anomaly score L1 and the reconstructed anomaly score L2 , which are complementary to each other, to determine an anomaly in the input image X. In this embodiment, the integrated anomaly score L calculated in the anomaly score integration step S20 is used to determine an anomaly in the input image X.

図4を参照して、本実施形態の学習方法について説明する。
本実施形態の学習方法については、本実施形態の異常検出装置の学習方法であり、正常な入力画像を用いて学習を行う。
図4に示されるように、本実施形態の学習方法については、以下の各ステップを有する。
The learning method of this embodiment will be described with reference to FIG.
The learning method of this embodiment is a learning method for the anomaly detection device of this embodiment, and learning is performed using normal input images.
As shown in FIG. 4, the learning method of this embodiment includes the following steps.

特徴ベクトル抽出ステップS32、画像再構成ステップS34、特徴量異常スコア計算ステップS36、再構成異常スコア計算ステップS38
異常検出方法の特徴ベクトル抽出ステップS12、画像再構成ステップS14、特徴量異常スコア計算ステップS16、再構成異常スコア計算ステップS18と同様である。
Feature vector extraction step S32, image reconstruction step S34, feature amount abnormality score calculation step S36, reconstruction abnormality score calculation step S38
These steps are the same as the feature vector extraction step S12, image reconstruction step S14, feature amount anomaly score calculation step S16, and reconstruction anomaly score calculation step S18 of the anomaly detection method.

勾配正則化項算出ステップS40
勾配正則化項算出ステップS40では、勾配正則化部36によって、画像再構成部14の勾配の正則化を促進する勾配正則化項L3を算出する。
Gradient regularization term calculation step S40
In the gradient regularization term calculation step S40, the gradient regularization unit 36 calculates the gradient regularization term L3 that promotes regularization of the gradient in the image reconstruction unit 14.

特徴量抽出更新ステップS42
特徴量抽出更新ステップS42では、特徴量抽出更新部32によって、特徴量異常スコア計算ステップS36において算出された特徴量異常スコアL1を損失関数として、特徴量抽出部12のパラメータφを更新する。
Feature extraction and update step S42
In the feature extraction and update step S42, the feature extraction and update unit 32 updates the parameter φ of the feature extraction unit 12 using the feature anomaly score L1 calculated in the feature anomaly score calculation step S36 as a loss function.

画像再構成更新ステップS44
画像再構成更新ステップS44では、画像再構成更新部34によって、再構成異常スコア計算ステップS38において算出された再構成異常スコアL2を損失関数として、特徴量抽出部12及び画像再構成部14のパラメータφ及びψを更新する。
Image reconstruction update step S44
In the image reconstruction update step S44, the image reconstruction update unit 34 updates the parameters φ and ψ of the feature extraction unit 12 and the image reconstruction unit 14 using the reconstruction abnormality score L2 calculated in the reconstruction abnormality score calculation step S38 as a loss function.

勾配正則化ステップS46
勾配正則化ステップS46では、勾配正則化部36によって、画像再構成部14の勾配を正則化するように、画像再構成部14を更新する。本実施形態では、勾配正則化項算出ステップS40において算出された勾配正則化項L3を損失関数として、画像再構成部14のパラメータψを更新する。
Gradient regularization step S46
In the gradient regularization step S46, the gradient regularizer 36 updates the image reconstruction unit 14 so as to regularize the gradient of the image reconstruction unit 14. In this embodiment, the parameter ψ of the image reconstruction unit 14 is updated using the gradient regularization term L3 calculated in the gradient regularization term calculation step S40 as a loss function.

パラメータ最適化ステップS48
パラメータ最適化ステップS48では、特徴量抽出部12及び画像再構成部14のパラメータφ及びψが最適化されるまで、上記各ステップを繰り返す。
Parameter optimization step S48
In the parameter optimization step S48, the above steps are repeated until the parameters φ and ψ of the feature extraction unit 12 and the image reconstruction unit 14 are optimized.

本実施形態の一変形例では、画像再構成部14の勾配の正則化にスペクトル正規化を用いる。即ち、上記勾配正則化項算出ステップに代えて、画像再構成部14の各層のパラメータの最大特異値σ(ω)を近似的に算出する最大特異値算出ステップを実行する。そして、勾配正則化ステップでは、画像再構成部14の各層のパラメータωを、最大特異値算出ステップにおいて算出した最大特異値σ(ω)により正規化することで、画像再構成部14の各層の勾配を正則化する。 In one variation of this embodiment, spectral normalization is used to regularize the gradients of the image reconstruction unit 14. That is, instead of the gradient regularization term calculation step, a maximum singular value calculation step is executed to approximately calculate the maximum singular value σ(ω) of the parameters of each layer of the image reconstruction unit 14. Then, in the gradient regularization step, the parameter ω of each layer of the image reconstruction unit 14 is normalized by the maximum singular value σ(ω) calculated in the maximum singular value calculation step, thereby regularizing the gradients of each layer of the image reconstruction unit 14.

図5を参照し、本実施形態の異常検出における相補性について説明する。
図5(a)は正常な入力画像を示し、図5(b)は局所的な異常のある入力画像を示し、図5(c)は大域的な異常のある入力画像を示す。図5(b)に示されるような局所的な異常のある入力画像については、入力画像を圧縮した特徴ベクトルに基づく特徴量異常スコアによって異常を検出することは困難であるが、再構成異常スコアによる検出は容易である。一方、図5(c)に示されるような大域的な異常のある入力画像については、局所的には正常であるため、再構成異常スコアによって異常を検出することは困難であるが、特徴量異常スコアによる検出は容易である。本実施形態では、特徴量異常スコアと再構成異常スコアとの両方を用いて異常検出を行うため、局所的な異常のある入力画像と大域的な異常のある入力画像との両方について、いずれも取り零すことなく異常の検出が可能である。
The complementarity in anomaly detection in this embodiment will be described with reference to FIG.
FIG. 5( a ) shows a normal input image, FIG. 5( b ) shows an input image with a local anomaly, and FIG. 5( c ) shows an input image with a global anomaly. For an input image with a local anomaly such as that shown in FIG. 5( b ), it is difficult to detect an anomaly using a feature anomaly score based on a feature vector obtained by compressing the input image, but it is easy to detect an anomaly using a reconstructed anomaly score. On the other hand, for an input image with a global anomaly such as that shown in FIG. 5( c ), it is difficult to detect an anomaly using the reconstructed anomaly score because the image is locally normal, but it is easy to detect an anomaly using the feature anomaly score. In this embodiment, anomaly detection is performed using both the feature anomaly score and the reconstructed anomaly score, so that anomalies can be detected without missing any of the input images with local anomalies and those with global anomalies.

本実施形態の異常検出装置及び方法、並びに、学習装置及び方法については、次の効果を奏する。 The anomaly detection device and method, and learning device and method of this embodiment have the following advantages:

本実施形態の異常検出装置及び方法では、入力画像Xから抽出された特徴ベクトルZと所定の中心点Cとの特徴ベクトル空間における距離を示す特徴量異常スコアL1と、特徴ベクトルZから再構成された再構成画像X^と元の入力画像Xとの画像空間における誤差を示す再構成異常スコアL2とは、取り零し得る異常について相補的な性質を有するところ、特徴量異常スコアL1と再構成異常スコアL2とを相補性を維持しつつ統合した統合異常スコアLを用いて異常を判定しているため、異常検出における異常の取り零しを防止することが可能となっている。 In the anomaly detection device and method of this embodiment, the feature anomaly score L1 , which indicates the distance in feature vector space between a feature vector Z extracted from an input image X and a predetermined center point C, and the reconstructed anomaly score L2 , which indicates the error in image space between a reconstructed image X^ reconstructed from the feature vector Z and the original input image X, have complementary properties with respect to anomalies that may be overlooked. Since anomalies are determined using an integrated anomaly score L, which is obtained by integrating the feature anomaly score L1 and the reconstructed anomaly score L2 while maintaining their complementarity, it is possible to prevent anomalies from being overlooked during anomaly detection.

本実施形態の学習装置及び方法では、異常検出装置の学習において、画像再構成部14の勾配を正則化するように学習を行っているため、学習済みの異常検出装置において、異常検出における特徴量異常スコアL1と再構成異常スコアL2との相補性を促進することができ、異常検出における異常の取り零しをさらに確実に防止することが可能となっている。 In the learning device and method of this embodiment, the anomaly detection device is trained to regularize the gradient of the image reconstruction unit 14. This makes it possible to promote complementarity between the feature anomaly score L1 and the reconstructed anomaly score L2 in anomaly detection in the trained anomaly detection device, and more reliably prevent anomalies from being overlooked in anomaly detection.

以上の各実施形態では、異常検出装置及び方法、並びに、学習装置及び方法について述べたが、コンピュータに当該装置の各機能を実現させるプログラム、又は、コンピュータに当該方法の各ステップを実行させるプログラムについても、本発明の範囲に含まれる。また、学習装置、方法及びプログラムによって学習された異常検出装置についても、本発明の範囲に含まれる。 In the above embodiments, we have described an anomaly detection device and method, and a learning device and method. However, the scope of the present invention also includes programs that cause a computer to realize the functions of the device, or programs that cause a computer to execute the steps of the method. Furthermore, the scope of the present invention also includes an anomaly detection device that has been trained using the learning device, method, and program.

12…特徴量抽出部 14…画像再構成部 16…特徴量異常スコア計算部
18…再構成異常スコア計算部 20…異常スコア統合部 22…異常判定部
32…特徴量抽出更新部 34…画像再構成更新部 36…勾配正則化部
12: Feature extraction unit 14: Image reconstruction unit 16: Feature abnormality score calculation unit 18: Reconstruction abnormality score calculation unit 20: Abnormality score integration unit 22: Abnormality determination unit 32: Feature extraction update unit 34: Image reconstruction update unit 36: Gradient regularization unit

Claims (9)

入力画像から特徴量を抽出する特徴量抽出部と、
前記特徴量から再構成画像を構成する画像再構成部と、
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算部と、
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算部と、
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定部と、
を具備し、
前記特徴量異常スコアと前記再構成異常スコアとを相補性を維持しつつ統合して統合異常スコアを算出する異常スコア統合部をさらに具備し、
前記異常判定部は、前記統合異常スコアを用いて異常を判定する、
異常検出装置。
a feature extraction unit that extracts features from an input image;
an image reconstruction unit that constructs a reconstructed image from the feature amount;
a feature anomaly score calculation unit that calculates a feature anomaly score indicating a distance between the feature and a predetermined center point;
a reconstruction anomaly score calculation unit that calculates a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
an abnormality determination unit that determines an abnormality using both the feature amount abnormality score and the reconstructed abnormality score;
Equipped with
an anomaly score integrating unit that integrates the feature amount anomaly score and the reconstructed anomaly score while maintaining complementarity to calculate an integrated anomaly score;
the abnormality determination unit determines an abnormality using the integrated abnormality score.
Anomaly detection device.
異常検出装置の学習を行う学習装置であって、A learning device that performs learning on an anomaly detection device,
前記異常検出装置は、The abnormality detection device
入力画像から特徴量を抽出する特徴量抽出部と、a feature extraction unit that extracts features from an input image;
前記特徴量から再構成画像を構成する画像再構成部と、an image reconstruction unit that constructs a reconstructed image from the feature amount;
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算部と、a feature anomaly score calculation unit that calculates a feature anomaly score indicating a distance between the feature and a predetermined center point;
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算部と、a reconstruction anomaly score calculation unit that calculates a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定部と、an abnormality determination unit that determines an abnormality using both the feature amount abnormality score and the reconstructed abnormality score;
を具備し、Equipped with
前記学習装置は、The learning device
前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新部と、a feature extraction update unit that updates the feature extraction unit using the feature anomaly score as a loss function;
前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新部と、an image reconstruction update unit that updates the feature amount extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function;
前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化部と、a gradient regularizer that updates the image reconstruction unit to regularize the gradient of the image reconstruction unit;
を具備する学習装置。A learning device comprising:
前記勾配正則化部は、前記画像再構成部の前記中心点におけるヤコビアンのフロベニウスノルムを勾配正則化項として算出し、当該勾配正則化項を損失関数として前記画像再構成部を更新する、the gradient regularization unit calculates a Frobenius norm of a Jacobian at the center point of the image reconstruction unit as a gradient regularization term, and updates the image reconstruction unit using the gradient regularization term as a loss function;
請求項2に記載の学習装置。The learning device according to claim 2 .
前記勾配正則化部は、前記画像再構成部の各層のパラメータを当該パラメータの最大特異値を用いて正規化することにより、前記画像再構成部の各層の勾配を正則化する、the gradient regularization unit regularizes the gradient of each layer of the image reconstruction unit by normalizing the parameter of each layer of the image reconstruction unit using the maximum singular value of the parameter;
請求項2に記載の学習装置。The learning device according to claim 2 .
請求項2乃至4のいずれか1項に記載の学習装置によって学習を行われた請求項1に記載の異常検出装置。5. The anomaly detection device according to claim 1, wherein learning is performed by the learning device according to any one of claims 2 to 4. 入力画像から特徴量を抽出する特徴量抽出ステップと、a feature extraction step of extracting features from an input image;
前記特徴量から再構成画像を構成する画像再構成ステップと、an image reconstruction step of constructing a reconstructed image from the feature amount;
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算ステップと、a feature amount anomaly score calculation step of calculating a feature amount anomaly score indicating a distance between the feature amount and a predetermined center point;
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算ステップと、a reconstruction anomaly score calculation step of calculating a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定ステップと、an anomaly determination step of determining an anomaly using both the feature amount anomaly score and the reconstructed anomaly score;
を具備し、Equipped with
前記特徴量異常スコアと前記再構成異常スコアとを相補性を維持しつつ統合して統合異常スコアを算出する異常スコア統合ステップをさらに具備し、an anomaly score integration step of integrating the feature anomaly score and the reconstructed anomaly score while maintaining complementarity to calculate an integrated anomaly score,
前記異常判定ステップでは、前記統合異常スコアを用いて異常を判定する、In the abnormality determination step, an abnormality is determined using the integrated abnormality score.
異常検出方法。Anomaly detection methods.
異常検出装置の学習方法であって、A learning method for an anomaly detection device, comprising:
前記異常検出装置は、The abnormality detection device
入力画像から特徴量を抽出する特徴量抽出部と、a feature extraction unit that extracts features from an input image;
前記特徴量から再構成画像を構成する画像再構成部と、an image reconstruction unit that constructs a reconstructed image from the feature amount;
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算部と、a feature anomaly score calculation unit that calculates a feature anomaly score indicating a distance between the feature and a predetermined center point;
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算部と、a reconstruction anomaly score calculation unit that calculates a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定部と、an abnormality determination unit that determines an abnormality using both the feature amount abnormality score and the reconstructed abnormality score;
を具備し、Equipped with
前記学習方法は、The learning method includes:
前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新ステップと、a feature extraction update step of updating the feature extraction unit using the feature anomaly score as a loss function;
前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新ステップと、an image reconstruction updating step of updating the feature amount extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function;
前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化ステップと、a gradient regularization step of updating the image reconstructor to regularize the gradient of the image reconstructor;
を具備する学習方法。A learning method that includes the following.
コンピュータに、On the computer,
入力画像から特徴量を抽出する特徴量抽出機能と、A feature extraction function that extracts features from input images,
前記特徴量から再構成画像を構成する画像再構成機能と、an image reconstruction function for constructing a reconstructed image from the feature amount;
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算機能と、a feature anomaly score calculation function for calculating a feature anomaly score indicating a distance between the feature and a predetermined center point;
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算機能と、a reconstruction anomaly score calculation function for calculating a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定機能と、an anomaly determination function that determines an anomaly using both the feature amount anomaly score and the reconstructed anomaly score;
を実現させ、To achieve this,
前記特徴量異常スコアと前記再構成異常スコアとを相補性を維持しつつ統合して統合異常スコアを算出する異常スコア統合機能をさらに実現させ、further realizing an anomaly score integration function that calculates an integrated anomaly score by integrating the feature anomaly score and the reconstructed anomaly score while maintaining complementarity;
前記異常判定機能は、前記統合異常スコアを用いて異常を判定する、The abnormality determination function determines an abnormality using the integrated abnormality score.
異常検出プログラム。Anomaly detection programs.
異常検出装置の学習を行うための学習プログラムであって、A learning program for learning an anomaly detection device,
前記異常検出装置は、The abnormality detection device
入力画像から特徴量を抽出する特徴量抽出部と、a feature extraction unit that extracts features from an input image;
前記特徴量から再構成画像を構成する画像再構成部と、an image reconstruction unit that constructs a reconstructed image from the feature amount;
前記特徴量と所定の中心点との距離を示す特徴量異常スコアを算出する特徴量異常スコア計算部と、a feature anomaly score calculation unit that calculates a feature anomaly score indicating a distance between the feature and a predetermined center point;
前記再構成画像と前記入力画像との誤差を示す再構成異常スコアを算出する再構成異常スコア計算部と、a reconstruction anomaly score calculation unit that calculates a reconstruction anomaly score indicating an error between the reconstructed image and the input image;
前記特徴量異常スコアと前記再構成異常スコアとの両方を用いて異常を判定する異常判定部と、an abnormality determination unit that determines an abnormality using both the feature amount abnormality score and the reconstructed abnormality score;
を具備し、Equipped with
前記学習プログラムは、The learning program
コンピュータに、On the computer,
前記特徴量異常スコアを損失関数として前記特徴量抽出部を更新する特徴量抽出更新機能と、a feature extraction update function that updates the feature extraction unit using the feature anomaly score as a loss function;
前記再構成異常スコアを損失関数として前記特徴量抽出部及び前記画像再構成部を更新する画像再構成更新機能と、an image reconstruction update function that updates the feature extraction unit and the image reconstruction unit using the reconstruction anomaly score as a loss function;
前記画像再構成部の勾配を正則化するように前記画像再構成部を更新する勾配正則化機能と、a gradient regularization function that updates the image reconstruction unit to regularize the gradient of the image reconstruction unit;
を実現させる学習プログラム。A learning program that makes this possible.
JP2021181775A 2021-11-08 2021-11-08 Anomaly detection device, method, and program Active JP7735801B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021181775A JP7735801B2 (en) 2021-11-08 2021-11-08 Anomaly detection device, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021181775A JP7735801B2 (en) 2021-11-08 2021-11-08 Anomaly detection device, method, and program

Publications (2)

Publication Number Publication Date
JP2023069705A JP2023069705A (en) 2023-05-18
JP7735801B2 true JP7735801B2 (en) 2025-09-09

Family

ID=86328235

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021181775A Active JP7735801B2 (en) 2021-11-08 2021-11-08 Anomaly detection device, method, and program

Country Status (1)

Country Link
JP (1) JP7735801B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021007570A (en) * 2019-06-29 2021-01-28 株式会社三洋物産 Game machine
CN119478768B (en) * 2024-10-23 2025-09-30 杭州电子科技大学 A video anomaly detection method based on SSIM and STE-3D

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017094267A1 (en) 2015-12-01 2017-06-08 株式会社Preferred Networks Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model
US20180082150A1 (en) 2016-09-20 2018-03-22 Kabushiki Kaisha Toshiba Abnormality detection device, learning device, abnormality detection method, and learning method
US20190108396A1 (en) 2017-10-11 2019-04-11 Aquifi, Inc. Systems and methods for object identification
JP2021051702A (en) 2019-09-26 2021-04-01 Nriシステムテクノ株式会社 Inspection support apparatus, inspection support method, inspection support system, inspection apparatus, inspection method, and program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017094267A1 (en) 2015-12-01 2017-06-08 株式会社Preferred Networks Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model
US20180082150A1 (en) 2016-09-20 2018-03-22 Kabushiki Kaisha Toshiba Abnormality detection device, learning device, abnormality detection method, and learning method
JP2018049355A (en) 2016-09-20 2018-03-29 株式会社東芝 Abnormality detection device, learning device, abnormality detection method, learning method, abnormality detection program, and learning program
US20190108396A1 (en) 2017-10-11 2019-04-11 Aquifi, Inc. Systems and methods for object identification
JP2021051702A (en) 2019-09-26 2021-04-01 Nriシステムテクノ株式会社 Inspection support apparatus, inspection support method, inspection support system, inspection apparatus, inspection method, and program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
曽我部 東馬,溶接の品質向上に貢献する可視化技術・画像処理技術 製造加工分野におけるディープラーニング技術の応用,画像ラボ,日本,日本工業出版株式会社,2020年09月10日,第31巻 第9号,pp.48~53

Also Published As

Publication number Publication date
JP2023069705A (en) 2023-05-18

Similar Documents

Publication Publication Date Title
Fu et al. Fast crowd density estimation with convolutional neural networks
CN112784954B (en) Method and device for determining neural network
CN107529650B (en) Closed loop detection method and device and computer equipment
CN106845529B (en) Image feature identification method based on multi-view convolution neural network
CN112541904A (en) Unsupervised remote sensing image change detection method, storage medium and computing device
US20200265307A1 (en) Apparatus and method with multi-task neural network
CN104484658A (en) Face gender recognition method and device based on multi-channel convolution neural network
US11367206B2 (en) Edge-guided ranking loss for monocular depth prediction
KR20170038622A (en) Device and method to segment object from image
CN111027610B (en) Image feature fusion method, apparatus, and medium
CN114676396B (en) Protection method and device for deep neural network model, electronic equipment and medium
JP7735801B2 (en) Anomaly detection device, method, and program
CN115994900B (en) Unsupervised defect detection method and system based on transfer learning and storage medium
JP7697317B2 (en) Expertise-based identification and quantification of confounding bias
CA3143928C (en) Dynamic image resolution assessment
CN116883303A (en) Infrared and visible light image fusion method based on characteristic difference compensation and fusion
CN116452810A (en) Multi-level semantic segmentation method and device, electronic equipment and storage medium
CN114445852B (en) Brain-inspired long-term continuous pedestrian re-identification method and device
Kim et al. Infrared and visible image fusion using a guiding network to leverage perceptual similarity
CN110837787B (en) A Multispectral Remote Sensing Image Detection Method and System Based on Tripartite Generative Adversarial Network
CN120707399A (en) A multimodal fusion method and system for dynamic perception of thermal diffusion suppression
Hepburn et al. Enforcing perceptual consistency on generative adversarial networks by using the normalised laplacian pyramid distance
CN120708213A (en) Tomato disease and pest detection method and device based on improved YOLOv8
Wibowo et al. Visual tracking based on complementary learners with distractor handling
KR102682208B1 (en) Apparatus and method for improving no-flash image quality using flash image

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20240805

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20241010

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250811

R150 Certificate of patent or registration of utility model

Ref document number: 7735801

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150