JP7408516B2 - 欠陥管理装置、方法およびプログラム - Google Patents
欠陥管理装置、方法およびプログラム Download PDFInfo
- Publication number
- JP7408516B2 JP7408516B2 JP2020151405A JP2020151405A JP7408516B2 JP 7408516 B2 JP7408516 B2 JP 7408516B2 JP 2020151405 A JP2020151405 A JP 2020151405A JP 2020151405 A JP2020151405 A JP 2020151405A JP 7408516 B2 JP7408516 B2 JP 7408516B2
- Authority
- JP
- Japan
- Prior art keywords
- defect
- inspection
- defect position
- label
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30148—Semiconductor; IC; Wafer
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Multimedia (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Quality & Reliability (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Probability & Statistics with Applications (AREA)
- Testing Or Measuring Of Semiconductors Or The Like (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Description
しかし、分類モデルを学習するための学習用データを作成するためには、製品の欠陥部位を撮影した画像に対し、欠陥の分類に関する教示ラベルを付与する教示作業が必要である。教示作業は、専門的な知識が必要であるため人手に頼ることが多く、機械学習における正解データとなる大量の教示ラベルを準備することは容易ではない。
近年では製造対象の製品が複雑化しているため、製造部材の受入、節目となる製造工程、出荷直前など複数の工程で欠陥検査を実施する必要性が高まっている。しかしながら、製造数、製造品種が膨大となった上に検査工程が多岐にわたると、上記検査データを人手で確認する作業は容易ではない。よって、欠陥の種別や不良の有無を自動的に判定することで作業を省力化する技術として、機械学習による欠陥管理への期待は非常に大きい。
以下、図面を参照しながら本実施形態に係る欠陥管理装置、方法およびプログラムについて詳細に説明する。なお、以下の実施形態では、同一の参照符号を付した部分は同様の動作をおこなうものとして、重複する説明を適宜省略する。
第1の実施形態に係る欠陥管理装置を含む欠陥管理システムについて図1のブロック図を参照して説明する。
第1の実施形態に係る欠陥管理システム1は、欠陥管理装置10と、第1検査装置20と、第2検査装置30とを含む。
取得部101は、第1検査装置20から、検査対象について第1検査装置20で検出された欠陥に関する第1欠陥位置および対応する第1分類ラベルを含む第1検査情報を取得する。取得部101は、第2検査装置30から、同じ検査対象について第2検査装置30で検出された欠陥に関する第2欠陥位置を含む第2検査情報を取得する。
図2(a)は、第1検査装置20で撮影した検査対象の製品の第1検査画像を示す模式図である。検査対象の製品は、ここでは正方形の形状を想定する。検査対象の製品を、縦横それぞれ20分割した分解能で撮影した場合の1つの部分画像領域が検査領域21となる。説明の便宜上、左上の座標を(1,1)と設定したXY平面で、20×20の各座標を定義し、X座標およびY座標で指定される1つの座標が1つの検査領域21を示す。検査領域21ごとに、欠陥の有無が検査される。また、図2(a)においてパターンが描かれている検査領域21は欠陥があることを示し、当該検査領域21を第1欠陥位置22とも呼ぶ。図2(a)の例では、13箇所の第1欠陥位置22が存在する。また、ハッチングの種類によって、欠陥の種類を示す分類ラベルを表現する。例えば、網掛けパターンは異物混入、単色の塗りつぶしパターンは穴、斜線パターンは傷、ドットパターンは汚れ、といったように分類ラベルを表現する。
第1検査情報のテーブルは、例えば第1検査装置20において保持され、欠陥管理装置10の取得部101が第1検査装置20から取得すればよい。なお、第1検査情報のテーブルは、取得部101で取得された後、記憶部104で記憶されてもよい。
図3(a)は、第1検査装置20で撮影した検査対象の製品を、第2検査装置30で撮影した場合の検査領域31を示す模式図である。
第1の実施形態では、同一製品を第1検査装置20と同一の分解能で撮影する場合を想定し、20×20の検査領域31が各座標で表現される。なお、第1検査装置20と第2検査装置30とは撮影系が異なるため、取得できる検査画像が異なる。第1検査装置20と同様に、第2検査装置30は検査領域31ごとに欠陥の有無を検査する。図3(a)の例では、13箇所の第2欠陥位置32が存在する場合を想定する。
ステップS401では、マッピング部102が、第2検査情報に含まれる第2欠陥位置のうちの未処理である第2欠陥位置を取得する。
ステップS402では、マッピング部102が、第1検査情報に含まれる第1欠陥位置のうち、第2欠陥位置に最も近い第1欠陥位置を取得する。具体的には、第1検査画像と第2検査画像とを共通の座標軸で位置合わせして重畳することで、第1欠陥位置と第2欠陥位置とを同一平面にマッピングする。その後、第2欠陥位置と第1欠陥位置とのユークリッド距離が最短となる第1欠陥位置を選択する。図2(a)と図3(a)とを例とすれば、第1検査画像と第2検査画像とを重畳し、処理対象の第2欠陥位置に最も近い第1欠陥位置を取得する。なお、処理対象の第2欠陥位置に最も近い第1欠陥位置が複数存在する場合は、複数の第1欠陥位置を取得する。
ステップS405では、マッピング部102が、所定範囲内に存在する第1欠陥位置が1つであるか否かを判定する。第1欠陥位置が1つである場合、ステップS406に進み、第1欠陥位置が複数である場合、ステップS407に進む。
ステップS407では、マッピング部102が、対応する複数の第1欠陥位置を複数の対応欠陥位置として決定する。
図5は、図2および図3に示す欠陥位置についての処理結果を示す、第2欠陥位置に対応する第1欠陥位置を示すテーブルである。図5の例では、説明の便宜上、第2検査情報に含まれる第2欠陥位置の識別番号と、第1欠陥位置(対応欠陥位置)の識別番号(対応識別番号ともいう)との対応関係を示す。なお、これに限らず第2欠陥位置の座標情報(X座標,Y座標)および対応欠陥位置の座標情報(X座標,Y座標)をそれぞれ対応付けてもよい。図5に示すテーブルを参照することで、第1検査情報と第2検査情報との欠陥位置の対応関係を把握できる。
ステップS601では、ラベル転用部103が、マッピング部102で得られた処理結果において、未処理の第2欠陥位置に対応する対応識別番号を確認する。
ステップS602では、ラベル転用部103が、対応識別番号が存在するか否かを判定する。対応識別番号が存在しない場合、ステップS603に進み、対応識別番号が存在する場合、ステップS604に進む。
ステップS604では、ラベル転用部103が、対応識別番号が1つであるか複数であるかを判定する。対応識別番号が1つである場合、ステップS605に進み、対応識別番号が複数である場合、ステップS606に進む。
ステップS606では、ラベル転用部103が、第1検査情報から複数の対応識別番号にそれぞれ紐付く複数の第1欠陥位置の分類ラベルを抽出し、複数の分類ラベルのうちの1つをランダムに選択し、転用ラベルとして決定する。なお、ラベル転用部103は、複数の分類ラベルのうちの複数種を転用ラベルとして決定してもよい。
ステップS607では、ラベル転用部103が、全ての第2欠陥位置について処理を終了したか否かを判定する。全ての第2欠陥位置について処理を終了していない、すなわち未処理の第2欠陥位置がある場合、ステップS601に戻り、同様の処理を繰り返す。一方、全ての第2欠陥位置について処理が終了している場合、ラベル転用部103での処理を終了する。
図7は、図5のテーブルに転用ラベルの項目が追加された処理結果である。具体的に、第2欠陥位置「101」に対応する、対応識別番号「001」の分類ラベルは、図2の第1検査情報を参照することで、分類ラベル「1」であることが分かる。よって、第2欠陥位置「101」の転用ラベルが「1」に決定される。
一方、第2欠陥位置「104」に対応する対応識別番号は存在しないため、転用ラベルは割り当てられない。
また、第2欠陥位置「113」に対応する、対応識別番号「012」および「013」の分類ラベルは、図2の第1検査情報を参照することで、それぞれ分類ラベル「2」および「1」であることが分かる。ここでは、ランダムな選択により分類ラベル「2」が選択されたとし、第2欠陥位置「113」に対応する転用ラベルが「2」に決定される。
図8は、更新された第2検査情報を示すテーブルであり、図3(b)のテーブルに加え、転用ラベルおよび画像データのデータ項目が追加された例である。
図8に示すように、各第2欠陥位置に対して、対応欠陥位置に紐付く分類ラベルが転用ラベルとして対応付けられ、第2欠陥位置に対応する検査画像の部分画像も併せて対応付けられる。
第1の実施形態では、第1検査装置と第2検査装置とで検査対象の製品を撮影する際の分解能が同一の場合を説明したが、第2の実施形態では、第1検査装置と第2検査装置とで撮影の分解能が異なる場合を想定する。
なお、欠陥管理装置10の構成については、第1の実施形態と同様であるため、ここでの説明を省略する。
図9に示す第1検査画像は、縦横それぞれ10分割した分解能で撮影された場合を示す。すなわち10×10の100の座標を定義し、1つの座標が検査領域91を示す。分解能が異なる以外は、図2の場合と同様であるため説明を省略する。
ステップS401およびステップS402は、図4と同様の処理であり、未処理の第2欠陥位置に最も近い第1欠陥位置を取得する。
ステップS1003では、マッピング部102が、第2欠陥位置を内包する第1欠陥位置を、対応欠陥位置として決定する。
図11は、図5と同様に、第2欠陥位置に対応する第1欠陥位置を示すテーブルである。図5の例では、第2検査情報に含まれる第2欠陥位置の識別番号と、第1検査情報に含まれる識別番号との対応関係を示す。
なお、ラベル転用部103の動作は、図6に示す第1の実施形態に係るラベル転用部の動作と同様である。
図12に示すように、ラベル転用部103によって、対応識別番号に対応する第1検査装置の分類ラベルが、転用ラベルとして第2欠陥位置に紐付けられる。
第3の実施形態では、第1検査装置による第1検査情報には分類ラベルが付されており、第2検査装置による第2検査情報にも、検出された欠陥の確度を示す補助ラベルが付されている場合を想定する。
なお、欠陥管理装置10の構成は第1の実施形態と同様であるため、ここでの説明を省略する。
図13(a)に示す第2検査画像では、第2欠陥位置を欠陥の確度によって分類して表現する。欠陥である確度が高い真正欠陥1301を単色塗りつぶしで表現し、真正欠陥1301よりも欠陥である確度が低い疑似欠陥1302を斜線パターンで示す。具体的には、第2欠陥位置(7,1)の欠陥は、真正欠陥1301であり、第2欠陥位置(18,2)の欠陥は、疑似欠陥1302である。
ステップS1401では、マッピング部102が、第2検査情報から未処理の第2欠陥位置と対応する補助ラベルとを取得する。
ステップS1402では、マッピング部102が、第2欠陥位置の補助ラベルが疑似欠陥を示すか否かを判定する。補助ラベルが疑似欠陥を示す場合、ステップS1403に進み、補助ラベルが疑似欠陥ではない欠陥を示す、すなわち第3の実施形態では真正欠陥を示す場合、ステップS402に進む。
ステップS1403では、マッピング部102が、対応する欠陥がないと決定し、ステップS408に進む。
図15は、図2の第1欠陥位置および図13の第2欠陥位置に対する処理結果であり、第2欠陥位置の識別番号と対応識別番号との対応関係を示すテーブルである。
なお、ラベル転用部103の動作は、図6に示す第1の実施形態に係るラベル転用部の動作と同様である。
図16に示すように、対応識別番号に対応する分類ラベルが、転用ラベルとして第2欠陥位置に紐付けられる。ここで、疑似欠陥である第2欠陥位置、例えば識別番号「102」の第2欠陥位置には、転用ラベルが付与されない。
第4の実施形態では、欠陥の種類に応じた欠陥の影響範囲を考慮する。例えば、穴のようなピンホール欠陥は、広範囲に影響することは少なく、撮影系の種別にかかわらず広範囲な欠陥として撮影されることも少ないと考えられる。一方、傷や汚れなどの欠陥は、撮影系によっては欠陥として検出される範囲が異なると考えられる。よって、第4の実施形態では、このような欠陥ごとの影響範囲を考慮して転用ラベルを決定することで、より柔軟に転用ラベルを決定できる。
図17は、分類ラベルに応じた影響範囲を示すテーブルである。テーブル中の分類ラベルの項目は、図2に示す分類ラベルに対応する。例えば分類ラベル「2」は、穴の欠陥を想定しているため、対応する影響範囲は少なく、影響範囲が「1」である。よって、欠陥が存在する座標のみが影響範囲となる。
一方、分類ラベル「4」は、傷の欠陥を想定するため、対応する影響範囲が広く、影響範囲が「3」である。よって、欠陥が存在する座標を含む2座標分、周囲に影響範囲を有する。つまり、欠陥が存在する座標を中心として3×3のサイズが影響範囲となる。
図19は、図5と同様、第2欠陥位置の識別番号と対応欠陥位置の対応識別番号との対応関係を示すテーブルである。
例えば識別番号「113」の第2欠陥位置(7,19)は、対応識別番号として、第2欠陥位置からの距離が同じである識別番号「012」の第1欠陥位置(6,19)および識別番号「013」の第1欠陥位置(8,19)がされうる。しかし、識別番号「012」の分類ラベルは「2」、識別番号「013」の分類ラベルは「1」である。分類ラベル「2」の影響範囲は「1」、分類ラベル「1」の影響範囲は「2」であるため、第2欠陥位置(7,19)は、分類ラベル「2」の影響範囲には含まれず、分類ラベル「1」の影響範囲に含まれることになる。よって、分類ラベル「1」が付与された識別番号「013」の第1欠陥位置が対応欠陥位置として決定され、識別番号「013」が対応識別番号として決定される。
なお、第4の実施形態に係るラベル転用部103の動作は、図6に示す第1の実施形態に係るラベル転用部103の動作と同様である。
図20に示すように、ラベル転用部103は、対応識別番号に紐付く分類ラベルを転用ラベルとして設定すればよい。
第5の実施形態では、第1検査装置20と第2検査装置30とのそれぞれが分類ラベルを取得可能であるが、第1検査装置20と第2検査装置30との間の分類ラベルの対応関係が分からない場合を想定する。例えば、第1検査装置20で外観検査をし、その後に第2検査装置30で機能検査を行う場合、機能検査での欠陥が、外観検査ではどのような欠陥として検出されるかが不明である。よって、機能検査において不良であれば製品として使用できないため、外観検査の段階で、機能検査において不良につながる欠陥の対応関係が予め把握できることが望ましい。第5の実施形態では、欠陥間の共起関係を抽出して転用ラベルを生成することで、製造の効率化を図ることができる。
次に、第5の実施形態に係る欠陥管理装置10のマッピング部102の動作例について図22のフローチャートを参照して説明する。
ステップS401~ステップS408までの処理は、図4と同様であるため、ここでの説明を省略する。
図23は、図2に示す第1検査情報の分類ラベルと、図21に示す第2検査情報の分類ラベルとの共起頻度の度数を示す共起テーブルである。
ここで、マッピング部102は、第2分類ラベルの種別それぞれについて、共起ラベル対を算出する。ここでは、第2分類ラベルの種別それぞれについて、共起頻度が最も高い第1分類ラベルとの組み合わせを共起ラベル対として算出する。
図24は、第2欠陥位置の識別番号と共起ラベル対とを対応付けたを示すテーブルである。
また、識別番号「114」の第2欠陥位置(7,19)は、図22に示すステップS407の処理において2つの対応欠陥位置、つまり対応識別番号が「012」および「013」の第1欠陥位置が選択されうる。しかし、ステップS2202の処理において、マッピング部102が、識別番号「114」の第2欠陥位置(7,19)の第2分類ラベルは「C」であるため、同様に共起ラベル対「C-2」を対応付けることができる。
ラベル転用部103は、第2欠陥位置ごとに、共起ラベル対に含まれる第1分類ラベルを転用ラベルとして設定すればよい。
第6の実施形態では、第1の実施形態から第5の実施形態までに示した転用ラベルを教示ラベルとして分類モデルを学習する。これにより、教示ラベルの付与が著しく困難な特性の検査装置で取得した画像にも欠陥の分類種別を付与でき、早期の異常検知および歩留まり予測に活用できる分類モデルを生成できる。
第6の実施形態に係る欠陥管理装置10は、取得部101と、マッピング部102と、ラベル転用部103と、記憶部104と、学習部105と、学習モデル格納部106とを含む。
ステップS2701では、学習部105が、学習用データに含まれる第2検査装置20の画像を学習中のネットワークモデルに入力し、当該ネットワークモデルから分類ラベルを出力する。
ステップS2702では、学習部105が、入力した画像に対応する正解として教示されるラベルとなる転用ラベルと、ステップS2701で得られた分類ラベルとの差分を損失として算出する。
第7の実施形態では、第1検査装置に付与される分類ラベルにおいて確度も併せて付与される場合を想定する。
図28は、図2(b)に示すテーブルと同様であるが、第1検査装置20の分類ラベルに分類ラベルの確からしさを示す確度がさらに対応付けられる。確度は第1検査装置20で分類ラベルを付与する際に計算された値を想定するが、他の装置により分類ラベルに対して確度が計算されてもよい。
ステップS601からステップS605、ステップS607の処理は、第1の実施形態と同様である。
図30は、図8に示したテーブルに転用ラベルの確度の項目が追加された処理結果である。例えば、第2欠陥位置「113」の分類ラベルは、識別番号「013」の対応欠陥位置に付与された分類ラベル「1」であり、対応する確度「0.90」も対応付けて記憶される。
ステップS3101以外は、図27と同様であるため説明を省略する。
ステップS3101では、学習部105が、ステップS2702で算出した損失が減少するように、重みパラメータを更新する。この際、重みパラメータの更新度合い(更新のステップ幅)を確度を用いて重み付けする。例えば、分類ラベルの確度が低いほど、正解データとなる分類ラベルが正しくない可能性を示すため、確度が低い分類ラベルが学習に影響しないように、重みパラメータの更新度合い(更新のステップ幅)が小さくなるような重み付けをすればよい。
第8の実施形態では、学習用データを生成する際に、確度を用いてデータを取捨選択する。
第8の実施形態に係る欠陥管理装置10の学習部105の学習処理について図32のフローチャートを参照して説明する。
第9の実施形態では、第6の実施形態から第8の実施形態のいずれかにおいて生成された学習済みモデルを用いて推論を行う。
第9の実施形態に係る欠陥管理装置について図33のブロック図を参照して説明する。
欠陥管理装置10は、取得部101と、マッピング部102と、ラベル転用部103と、記憶部104と、学習部105と、学習モデル格納部106と、推論部107とを含む。
なお、上述の実施形態において、欠陥管理装置10は、記憶部104に記憶される第2欠陥位置の欠陥画像と転用ラベルとの対応関係をユーザに提示してもよい。これにより、ユーザが血管画像と転用ラベルとの対応付けについての確認、および必要があれば修正を実施することもできる。
欠陥管理装置10は、CPU(Central Processing Unit)41と、RAM(Random Access Memory)42と、ROM(Read Only Memory)43と、ストレージ44と、表示装置45と、入力装置46と、通信装置47とを含み、それぞれバスにより接続される。
入力装置46は、マウスおよびキーボード等の入力デバイスである。入力装置46は、ユーザから操作入力された情報を指示信号として受け付け、指示信号をCPU41に出力する。
通信装置47は、CPU41からの制御に応じて外部機器とネットワークを介して通信する。
また、記録媒体からコンピュータや組み込みシステムにインストールされたプログラムの指示に基づきコンピュータ上で稼働しているOS(オペレーティングシステム)や、データベース管理ソフト、ネットワーク等のMW(ミドルウェア)等が本実施形態を実現するための各処理の一部を実行してもよい。
さらに、本実施形態における記録媒体は、コンピュータあるいは組み込みシステムと独立した媒体に限らず、LANやインターネット等により伝達されたプログラムをダウンロードして記憶または一時記憶した記録媒体も含まれる。
また、記録媒体は1つに限られず、複数の媒体から本実施形態における処理が実行される場合も、本実施形態における記録媒体に含まれ、媒体の構成は何れの構成であってもよい。
また、本実施形態におけるコンピュータとは、パソコンに限らず、情報処理機器に含まれる演算処理装置、マイコン等も含み、プログラムによって本実施形態における機能を実現することが可能な機器、装置を総称している。
Claims (12)
- 検査対象について第1検査装置で検出された欠陥に関する第1欠陥位置および対応する前記欠陥の分類を示す第1分類ラベルを含む第1検査情報を取得し、前記検査対象について前記第1検査装置とは異なる検査を実施する第2検査装置で検出された欠陥に関する第2欠陥位置を含む第2検査情報を取得する取得部と、
前記第1検査情報および前記第2検査情報に基づき、前記第2欠陥位置に対応する第1欠陥位置を対応欠陥位置として決定するマッピング部と、
前記対応欠陥位置に対応する第1分類ラベルを、前記第2欠陥位置の第2分類ラベルとして転用する転用部と、
を具備する欠陥管理装置。 - 前記マッピング部は、前記第1欠陥位置と前記第2欠陥位置とを同一平面にマッピングし、前記第2欠陥位置からの距離が閾値未満である第1欠陥位置を前記対応欠陥位置として決定する、請求項1に記載の欠陥管理装置。
- 前記マッピング部は、前記検査対象を前記第1検査装置で撮影した第1検査画像の分解能が、前記検査対象を前記第2検査装置で撮影した第2検査画像の分解能よりも低い場合、前記第1欠陥位置と前記第2欠陥位置とを同一平面にマッピングし、前記第2欠陥位置の少なくとも一部を含む第1欠陥位置を前記対応欠陥位置として決定する、請求項1に記載の欠陥管理装置。
- 前記第2検査情報は、前記第2欠陥位置に対応する欠陥の確度を示すラベルをさらに含み、
前記マッピング部は、前記欠陥の確度が閾値以上であるラベルが対応付けられる第2欠陥位置に対して前記対応欠陥位置を決定する、請求項1から請求項3のいずれか1項に記載の欠陥管理装置。 - 前記第1検査情報は、前記第1分類ラベルに対応する欠陥の種別ごとの影響範囲をさらに含み、
前記マッピング部は、前記第1欠陥位置と前記第2欠陥位置とを同一平面にマッピングし、前記第2欠陥位置の少なくとも一部を含む影響範囲を有する第1分類ラベルが対応付けられる第1欠陥位置を、前記対応欠陥位置として決定する、請求項1に記載の欠陥管理装置。 - 検査対象について第1検査装置で検出された第1欠陥に関する第1欠陥位置および対応する前記第1欠陥の分類を示す第1分類ラベルを含む第1検査情報を取得し、前記検査対象について第2検査装置で検出された第2欠陥に関する第2欠陥位置および対応する前記第2欠陥の分類を示す第2分類ラベルを含む第2検査情報を取得する取得部と、
前記第1分類ラベルと前記第2分類ラベルとが同種別かつ所定範囲内の欠陥位置に対応付けられる共起頻度に基づいて、前記第2分類ラベルに関する前記共起頻度が最も高い第1分類ラベルを決定するマッピング部と、
前記共起頻度が最も高い第1分類ラベルを、前記第2欠陥位置の新たな第2分類ラベルとして転用する転用部と、
を具備する欠陥管理装置。 - 前記第2欠陥位置に関する画像を入力データとし、前記第2欠陥位置のラベルとして転用された第1分類ラベルを正解データとした学習用データを用いて、ネットワークモデルを学習し、学習済みモデルを生成する学習部をさらに具備する、請求項1から請求項6のいずれか1項に記載の欠陥管理装置。
- 前記第1分類ラベルには、欠陥種別の分類の確度が対応付けられ、
前記正解データは、前記転用された第1分類ラベルと対応する確度とを含み、
前記学習部は、前記ネットワークモデルの重みパラメータを前記確度に応じて重み付けして更新する、請求項7に記載の欠陥管理装置。 - 前記第1分類ラベルには、欠陥種別の分類の確度が対応付けられ、
前記学習部は、前記転用された第1分類ラベルのうちの前記確度が閾値以上となる第1分類ラベルを前記正解データとし、前記確度が閾値以上となる第1分類ラベルに対応する第2欠陥位置に関する画像を入力データとした学習用データを用いて、前記ネットワークモデルを学習する、請求項7に記載の欠陥管理装置。 - 第2検査装置で撮影した第2検査画像を前記学習済みモデルに入力することで、前記第2検査画像に関する欠陥の有無、および欠陥が存在する場合は前記第1分類ラベルを含む推論結果を出力する推論部、をさらに具備する請求項7から請求項9のいずれか1項に記載の欠陥管理装置。
- 検査対象について第1検査装置で検出された欠陥に関する第1欠陥位置および対応する前記欠陥の分類を示す第1分類ラベルを含む第1検査情報を取得し、
前記検査対象について前記第1検査装置とは異なる検査を実施する第2検査装置で検出された欠陥に関する第2欠陥位置を含む第2検査情報を取得し、
前記第1検査情報および前記第2検査情報に基づき、前記第2欠陥位置に対応する第1欠陥位置を対応欠陥位置として決定し、
前記対応欠陥位置に対応する第1分類ラベルを、前記第2欠陥位置の分類ラベルとして転用する、欠陥管理方法。 - コンピュータを、
検査対象について第1検査装置で検出された欠陥に関する第1欠陥位置および対応する前記欠陥の分類を示す第1分類ラベルを含む第1検査情報を取得し、前記検査対象について前記第1検査装置とは異なる検査を実施する第2検査装置で検出された欠陥に関する第2欠陥位置を含む第2検査情報を取得する取得手段と、
前記第1検査情報および前記第2検査情報に基づき、前記第2欠陥位置に対応する第1欠陥位置を対応欠陥位置として決定するマッピング手段と、
前記対応欠陥位置に対応する第1分類ラベルを、前記第2欠陥位置の分類ラベルとして転用する転用手段と、
して機能させるための欠陥管理プログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020151405A JP7408516B2 (ja) | 2020-09-09 | 2020-09-09 | 欠陥管理装置、方法およびプログラム |
| US17/186,402 US12094098B2 (en) | 2020-09-09 | 2021-02-26 | Defect management apparatus, method and non-transitory computer readable medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020151405A JP7408516B2 (ja) | 2020-09-09 | 2020-09-09 | 欠陥管理装置、方法およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022045688A JP2022045688A (ja) | 2022-03-22 |
| JP7408516B2 true JP7408516B2 (ja) | 2024-01-05 |
Family
ID=80469939
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020151405A Active JP7408516B2 (ja) | 2020-09-09 | 2020-09-09 | 欠陥管理装置、方法およびプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US12094098B2 (ja) |
| JP (1) | JP7408516B2 (ja) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2023147373A (ja) * | 2022-03-30 | 2023-10-13 | 東レエンジニアリング株式会社 | 自動欠陥分類装置 |
| CN114750510B (zh) * | 2022-04-29 | 2024-02-02 | 道恩周氏(青岛)复合包装材料有限公司 | 一种缺陷标记及自动剔除方法、系统、设备、介质 |
| US12211196B2 (en) * | 2023-04-21 | 2025-01-28 | KLA Corp. | Ensemble of deep learning models for defect review in high volume manufacturing |
| CN117152687B (zh) * | 2023-10-31 | 2024-01-26 | 中国通信建设第三工程局有限公司 | 一种通信线路状态监测系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005293264A (ja) | 2004-03-31 | 2005-10-20 | Olympus Corp | 学習型分類装置及び学習型分類方法 |
| US20080226153A1 (en) | 2007-03-16 | 2008-09-18 | Makoto Ono | Analyzing apparatus, program, defect inspection apparatus, defect review apparatus, analysis system, and analysis method |
| JP2017117139A (ja) | 2015-12-24 | 2017-06-29 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、制御方法、プログラム |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI229894B (en) * | 2002-09-05 | 2005-03-21 | Toshiba Corp | Mask defect inspecting method, semiconductor device manufacturing method, mask defect inspecting apparatus, generating method of defect influence map, and computer program product |
| JP3848236B2 (ja) * | 2002-10-18 | 2006-11-22 | 株式会社東芝 | 欠陥情報検出感度データの決定方法及び欠陥情報検出感度データの決定装置、欠陥検出装置の管理方法、半導体装置の欠陥検出方法及び半導体装置の欠陥検出装置 |
| JP4799574B2 (ja) * | 2008-02-29 | 2011-10-26 | 株式会社東芝 | 線状パターンの検知方法および装置 |
| JP2010060904A (ja) * | 2008-09-04 | 2010-03-18 | Toshiba Corp | フォトマスクの検査方法、半導体デバイスの検査方法及びパターン検査装置 |
| KR101711193B1 (ko) * | 2010-06-04 | 2017-02-28 | 삼성전자 주식회사 | 웨이퍼 검사 방법 및 웨이퍼 검사 시스템 |
| JP2012083147A (ja) * | 2010-10-08 | 2012-04-26 | Hitachi High-Technologies Corp | 欠陥分類システム及び欠陥分類装置及び画像撮像装置 |
| JP5715873B2 (ja) | 2011-04-20 | 2015-05-13 | 株式会社日立ハイテクノロジーズ | 欠陥分類方法及び欠陥分類システム |
| WO2017203600A1 (ja) * | 2016-05-24 | 2017-11-30 | 株式会社日立ハイテクノロジーズ | 欠陥分類装置および欠陥分類方法 |
| JP6622156B2 (ja) * | 2016-08-24 | 2019-12-18 | 株式会社東芝 | 情報処理装置、情報処理方法およびプログラム |
| US20200334801A1 (en) | 2017-12-06 | 2020-10-22 | Nec Corporation | Learning device, inspection system, learning method, inspection method, and program |
-
2020
- 2020-09-09 JP JP2020151405A patent/JP7408516B2/ja active Active
-
2021
- 2021-02-26 US US17/186,402 patent/US12094098B2/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005293264A (ja) | 2004-03-31 | 2005-10-20 | Olympus Corp | 学習型分類装置及び学習型分類方法 |
| US20080226153A1 (en) | 2007-03-16 | 2008-09-18 | Makoto Ono | Analyzing apparatus, program, defect inspection apparatus, defect review apparatus, analysis system, and analysis method |
| JP2017117139A (ja) | 2015-12-24 | 2017-06-29 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、制御方法、プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022045688A (ja) | 2022-03-22 |
| US20220076404A1 (en) | 2022-03-10 |
| US12094098B2 (en) | 2024-09-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7408516B2 (ja) | 欠陥管理装置、方法およびプログラム | |
| CN111353983B (zh) | 缺陷检测识别方法、装置、计算机可读介质及电子设备 | |
| KR20230124713A (ko) | 결함 검출 방법, 장치 및 시스템 | |
| JP7467373B2 (ja) | 欠陥分類装置、方法およびプログラム | |
| JP4982213B2 (ja) | 欠陥検査装置及び欠陥検査方法 | |
| US11315229B2 (en) | Method for training defect detector | |
| WO2019117065A1 (ja) | データ生成装置、データ生成方法及びデータ生成プログラム | |
| CN111861966B (zh) | 模型训练方法、装置及缺陷检测方法、装置 | |
| CN108154508A (zh) | 产品缺陷检测定位的方法、装置、存储介质及终端设备 | |
| JP5718781B2 (ja) | 画像分類装置および画像分類方法 | |
| JP2021086379A (ja) | 情報処理装置、情報処理方法、プログラム及び学習モデルの生成方法 | |
| JP7658119B2 (ja) | 支援装置および方法 | |
| JP2023007260A (ja) | 計算機及び外観検査方法 | |
| JP7453813B2 (ja) | 検査装置、検査方法、プログラム、学習装置、学習方法、および学習済みデータセット | |
| CN115082416A (zh) | 镜片瑕疵检测方法、装置、设备及存储介质 | |
| JP7671184B2 (ja) | 異常判定用計算機及び異常判定方法 | |
| CN116883417B (zh) | 基于机器视觉的工件质检方法及装置 | |
| CN119131006A (zh) | 一种基于深度学习的陶瓷缺陷智能检测方法、系统、设备及存储介质 | |
| CN120298399A (zh) | 一种噪声抑制模态融合对齐的工业图像异常检测方法 | |
| CN113554645B (zh) | 基于wgan的工业异常检测方法和装置 | |
| JP4776259B2 (ja) | パターン評価方法、パターン位置合わせ方法およびプログラム | |
| JP2023128940A (ja) | 外観分析システム、外観分析方法、及びプログラム | |
| CN118469975B (zh) | 检测结果确认方法及相关装置 | |
| CN121353271B (zh) | 多尺度特征差异比对的零样本晶圆缺陷检测方法及系统 | |
| US12530880B2 (en) | Training system and method, testing system and method, data filtering system and method, and computer readable recording medium with stored program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220826 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20230105 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230711 |
|
| A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230908 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231108 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231121 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231220 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 7408516 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |