以下に本発明の実施形態を説明する。以下の図面の記載において、同一または類似の部分には同一または類似の符号で表している。但し、図面は模式的なものである。従って、具体的な寸法等は以下の説明を照らし合わせて判断するべきものである。また、図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることは勿論である。さらに、本発明の技術的範囲は、当該実施形態に限定して解するべきではない。
まず、図1を参照しつつ、一実施形態に従う画像検査システムの構成について説明する。図1は、一実施形態における画像検査システム1の概略構成を例示する構成図である。
図1に示すように、画像検査システム1は、学習済みモデル生成装置10と、画像検査装置20と、画像処理装置30と、照明ILとを含んでいる。学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、通信ネットワークNWを介して、互いに通信可能に接続されている。照明ILは、検査対象物TAに光Lを照射する。画像検査装置20は、反射光Rを撮影し、検査対象物TAを計測した画像(以下、「計測画像」ともいう)に基づいて、検査対象物TAの検査を行う。より詳細には、画像検査装置20は、計測画像に基づいて、検査対象物TAが良品であるか不良品であるかを判定したり、検査対象物TAが欠陥を含むか否かを判定したりする。
学習済みモデル生成装置10は、画像処理装置30が計測画像を分類するために用いる学習済みモデルを生成する。また、学習済みモデル生成装置10は、画像検査装置20が検査を行うために用いる学習済みモデルを生成してもよい。
画像処理装置30は、検査対象物TAの計測画像を分類するためのものである。計測画像は検査対象物TAの画像であり、検査対象物TAには、例えば製造工程において欠陥が生じることがある。欠陥は、特に限定されるものではないが、例えば、欠け、傷、薄い汚れ、濃い汚れ、クラック、バリ、付着物、異物、打痕、色等のムラ、印字のかすれ、印字等の位置ずれ等の視認可能なものを含む。よって、計測画像は、このような欠陥の部分画像(以下、単に「欠陥」ともいう)を含み得る。
前述したように、画像検査装置20は、計測画像に基づいて検査対象物TAが欠陥を含むか否かを判定することが可能である。一方、画像処理装置30は、計測画像に基づいて、当該計測画像における欠陥の有無、及び、欠陥があるときの当該欠陥の種類を分類することが可能である。そのため、画像処理装置30は、例えば、計測画像の分析や解析、計測画像に含まれ得る欠陥の原因の推定及び/又は絞り込みに有用である。
次に、図2を参照しつつ、一実施形態に従う学習済みモデル生成装置、画像検査装置、及び画像処理装置の物理的構成について説明する。図2は、一実施形態における学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30の物理的構成を示す構成図である。
図2に示すように、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、プロセッサ31と、メモリ32と、記憶装置33と、通信装置34と、入力装置35と、出力装置36と、を備える。これらの各構成は、バスを介して相互にデータ送受信可能に接続される。
プロセッサ31は、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30の各部の動作を制御するように構成されている。プロセッサ31は、例えば、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array))、SoC(Sysmtem-on-a-Chip)等の集積回路を含んで構成される。
メモリ32及び記憶装置33は、それぞれ、プログラムやデータ等を記憶するように構成されている。メモリ32は、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)及び/又はRAM(Random Access Memory)等から構成される。記憶装置33は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)及び/又はeMMC(embedded Multi Media Card)等のストレージから構成される。
通信装置34は、有線及び無線の少なくとも一方のネットワークを介して通信を行うように構成されている。通信装置34は、例えば、ネットワークカード、通信モジュール、他の機器に接続するインターフェース等を含んで構成される。
入力装置35は、ユーザの操作により情報を入力できるように構成されている。入力装置35は、例えば、キーボード、タッチパネル、マウス、ポインティングデバイス、及び/又はマイク等を含んで構成される。
出力装置36は、情報を出力するように構成されている。出力装置36は、例えば液晶ディスプレイ、EL(Electro Luminescence)ディスプレイ、プラズマディスプレイ、LCD(Liquid Crystal Display)等の表示装置、及び/又はスピーカ等を含んで構成される。
なお、図2に示す例では、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30が、それぞれ、一台のコンピュータで構成される場合について説明するが、これに限定されるものではない。学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、複数のコンピュータが組み合わされて実現されてもよい。また、図2で示す構成は一例であり、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、これら以外の構成を備えてもよいし、これらの構成のうち一部を備えなくてもよい。
次に、図3から図8を参照しつつ、一実施形態に従う画像処理装置の機能ブロックについて説明する。図3は、一実施形態における画像処理装置30の機能ブロックの構成を示す構成図である。図4は、学習用データ321の一例を示す図である。図5は、計測画像327の特徴量及び学習画像321aの特徴量の一例を示す図である。図6は、計測画像327の特徴量に対する変換後特徴量328及び学習画像321aの特徴量に対する変換後特徴量322の一例を示す図である。図7は、作成部350によって作成されるグラフの一例を示す図である。図8は、特徴量選択画面SSの一例を示す図である。
図3に示すように、画像処理装置30は、通信部310と、記憶部320と、学習部330と、変換部340と、作成部350と、分類部360と、選択部370と、出力部380と、を備える。
通信部310は、各種の情報を送信及び受信可能に構成されている。通信部310は、例えば、通信ネットワークNWを介して、学習済みモデル生成装置10又は他の装置から複数の学習用データ321を受信する。また、通信部310は、例えば、通信ネットワークNWを介して、画像検査装置20又は他の装置から計測画像327を受信する。さらに、通信部310は、例えば、通信ネットワークNWを介して、学習済みモデル生成装置10から学習済みモデル325を受信する。受信した複数の学習用データ321及び学習済みモデル325は、記憶部320に書き込まれて記憶される。なお、通信部310は、複数の学習用データ321及び計測画像327のみを受信してもよい。通信部310が複数の学習用データ321及び計測画像327のみを受信する場合、後述する学習部330は、複数の学習用データ321を用いて学習済みモデル325を生成する。
記憶部320は、各種の情報を記憶するように構成されている。記憶部320は、例えば、複数の学習用データ321と、学習済みモデル325と、計測画像327とを記憶する。このように、学習済みモデル325を記憶する記憶部320を備えることにより、学習済みモデルを容易に読み出すことができる。
学習部330は、記憶部320に記憶された複数の学習用データ321を用い、学習モデルの機械学習を実行し、学習済みモデル325を生成するように構成されている。生成した学習済みモデル325は、記憶部320に書き込まれて記憶される。
より詳細には、学習部330は、学習用データ321に含まれる学習画像の特徴量を入力とし、当該学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成するように構成されている。
図4に示すように、複数の学習用データ321は、それぞれ、学習画像321a及びラベルデータ321bを含んでいる。すなわち、各学習用データ321は、学習画像321aとラベルデータ321bとの組合せで構成されている。学習画像321aは、前述した計測画像と同様に、欠陥を含み得る検査対象物TAの画像である。
一般的に、ラベルデータは、学習モデルの機械学習の際に、当該学習モデルに入力される入力データの性質を表すデータである。別の言い方をすれば、ラベルデータは、当該学習モデルが出力すべきデータであり、学習の目標とされるデータである。本実施形態では、ラベルデータ321bは、対応する学習画像321aの分類、厳密には、対応する学習画像321aの特徴量に基づく分類である。このように、学習用データ321において、学習画像321aには分類が付与されている。この分類は、学習画像321aに欠陥を含まない(以下、「欠陥がない」又は「欠陥なし」ともいう)ことを示すクラスと、学習画像321aに欠陥を含む(以下、「欠陥がある」又は「欠陥あり」ともいう)ときの当該欠陥の種類を示すクラスとを含んでいる。
より詳細には、ラベルデータ321bに、対応する学習画像321aの分類を示すクラスが設定されており、当該クラスはIDで表されている。例えば、ラベルデータ321bが“0”(ID:0)である場合、対応する学習画像321aは“欠陥なし”であることを示すクラスに分類される。また、ラベルデータ321bが“1”(ID:1)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“欠け”であることを示すクラスに分類される。また、ラベルデータ321bが“2”(ID:2)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“傷”であることを示すクラスに分類される。また、ラベルデータ321bが“3”(ID:3)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“濃い汚れ”であることを示すクラスに分類される。さらに、ラベルデータ321bが“4”(ID:4)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“薄い汚れ”であることを示すクラスに分類される。
このように、計測画像327及び学習画像321aは、それぞれ、欠陥を含み得る検査対象物TAの画像であり、分類は、欠陥がないことを示すクラスと、欠陥があるときの当該欠陥の種類を示すクラスとを含むことにより、計測画像327の欠陥の有無及びその種類を分類することが可能となる。
ここで、特徴量は、求めたい事物の特徴を定量的に表した変数である。学習モデルの機械学習の際に、当該学習モデルに入力される学習画像321aの特徴量は、例えば、欠陥を含み得る検査対象物TAの画像であることを特徴づけるものである。具体的には、学習画像321aの特徴量は、面積、重心位置のx座標、重心位置のy座標、扁平率、画像の濃度平均等で表される濃淡値等が挙げられる。一般的に、学習画像321aは、1種類の特徴量だけで検査対象物TAの画像であることを認識可能である場合は少なく、複数種類の特徴量を用いて検査対象物TAの画像であることを認識できる場合が多い。
学習部330は、学習部330は、学習画像321aから1つ又は複数の特徴量を算出し、算出した特徴量を学習モデルに入力する。なお、学習モデルに入力される特徴量は、学習画像321aに基づいてあらかじめ算出され、学習用データ321に含まれていてもよい。また、学習モデルに入力する特徴量は、後述する変換後特徴量であってもよい。さらに、学習画像321aについて複数の特徴量が使用される場合、後述するように、当該複数の特徴量から選択された少なくとも1つの特徴量を学習モデルに入力してもよい。
学習済みモデル325の生成には、例えば、K近傍法、SVM(Support Vector Machine)、決定木、回帰モデル、ニューラルネットワーク等の学習モデルが使用可能である。例えば、学習モデルがニューラルネットワークである場合、学習画像321aの特徴量を入力し、その出力とラベルデータとの差に基づいて、誤差逆伝播法にニューラルネットワークの重みを更新する。このプロセスを複数の学習用データ321のそれぞれについて行うことで、学習済みモデル325が生成される。なお、学習モデルは、前述したものに限定されず、学習部330は、その他のアルゴリズムを用いて学習済みモデル325を生成してもよい。
このように、学習画像321aの特徴量を入力とし、学習画像321aの分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成することにより、学習済みモデル生成装置10がなくても、学習済みモデル325を得ることができる。
なお、通信部310が、通信ネットワークNWを介して、学習済みモデル生成装置10から学習済みモデル325を受信する場合、学習済みモデル生成装置10は、学習部330と同様の機能を有する。すなわち、学習済みモデル生成装置10は、学習部330についての説明と同様の方法で、学習モデルを学習させて学習済みモデル325を生成する。そのため、学習済みモデル生成装置10については、その詳細な説明を省略する。
変換部340は、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量に基づいて標準化及び正規化の少なくとも一方を行って変換後特徴量328及び変換後特徴量322にそれぞれ変換するように構成されている。計測画像327及び学習画像321aについて複数の特徴量が使用される場合、変換部340は、特徴量ごとに、計測画像327の変換後特徴量328及び学習画像321aの変換後特徴量322のそれぞれに変換する。また、複数の学習画像321aが存在する場合、変換部340は、複数の学習画像321aのそれぞれについて、学習画像321aの変換後特徴量322に変換する。計測画像327の特徴量に対する変換後特徴量328と学習画像321aの特徴量に対する変換後特徴量322とは、記憶部320に書き込まれて記憶される。また、変換後特徴量328及び変換後特徴量322は、作成部350に出力される。
ここで、図5に示すように、計測画像327と複数の学習画像321aとは、それぞれ、例えば第1特徴量から第5特徴量の5つの特徴量で特徴付けられる。第1特徴量は、例えば画像の面積であり、単位はピクセルである。第2特徴量は、例えば画像の重心のx座標であり、単位はピクセルである。第3特徴量は、例えば画像の重心のy座標であり、単位はピクセルである。第4特徴量は、例えば画像の扁平率であり、ゼロから1の値であって単位なし(無次元)である。第5特徴量は、例えば画像の濃淡値であり、ゼロから255の明度であって単位なし(無次元)である。
従来、特徴量ごとの単位等が異なる場合、このような特徴量をそのまま座標軸とする座標系のグラフを作成しようとすると、複数の学習画像321aのそれぞれの点が密集してプロットされて計測画像327の分類が困難になることや、計測画像327の点が学習画像321aの点から大きく離れた位置にプロットされてグラフ内に表示できないことがあった。その結果、操作者(ユーザ)は、各点の密集やグラフ内に表示できない点の発生を回避するために、座標軸ごとにスケールを調整する必要があり、操作が煩雑になっていた。
これに対し、本実施形態の画像処理装置30は、変換部340が、図5に示す計測画像327の特徴量と学習画像321aの特徴量とに対し、図6に示すように、例えば、複数の学習画像321aの特徴量に基づいて標準化を行い、変換後特徴量328及び変換後特徴量322にそれぞれ変換する。
より詳細には、変換部340は、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量に基づいて算出された平均及び標準偏差を用いて標準化を行うように構成されている。
具体的には、計測画像327の各変換後特徴量Yi(i=1,2,3,4,5)は、計測画像327の変換前の第i特徴量Xi(i=1,2,3,4,5)と、各学習画像321aの第i特徴量に基づいて算出された平均μiと、各学習画像321aにおいて対応する第i特徴量に基づいて算出された標準偏差ρiと、を用い、以下の式(1)で算出することができる。
Yi=(Xi-μi)/ρi …(1)
同様に、学習画像321aの各変換後特徴量Mi(i=1,2,3,4,5)は、学習画像321aの変換前の第i特徴量Li(i=1,2,3,4,5)と、前述の平均μi及び標準偏差ρiと、を用い、以下の式(2)で算出することができる。
Mi=(Li-μi)/ρi …(2)
このように、計測画像327の第i特徴量と学習画像321aの第i特徴量とに対し、複数の学習画像321aの第i特徴量に基づいて算出された平均μi及び標準偏差ρiを用いて標準化を行うことにより、平均μiが“0”になり、標準偏差ρiが“1”になるので、異なる特徴量との間であっても、変換後特徴量328及び変換後特徴量322の値の比較が容易になる。
また、変換部340は、前述した標準化に代えて、又は、前述した標準化に加えて、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量における最大値と最小値とを用いて正規化を行うように構成されている。
具体的には、計測画像327の各変換後特徴量Ti(i=1,2,3,4,5)は、計測画像327の変換前の第i特徴量Si(i=1,2,3,4,5)と、各学習画像321aの第i特徴量における最大値MAXiと、各学習画像321aの第i特徴量における最小値MINiと、を用い、以下の式(3)で算出することができる。
Ti=(Si-MINi)/(MAXi-MINi) …(3)
同様に、学習画像321aの各変換後特徴量Qi(i=1,2,3,4,5)は、学習画像321aの変換前の第i特徴量Pi(i=1,2,3,4,5)と、前述の最大値MAXi及び最小値MINiと、を用い、以下の式(4)で算出することができる。
Qi=(Pi-MINi)/(MAXi-MINi) …(4)
このように、計測画像327の第i特徴量と学習画像321aの第i特徴量とに対し、複数の学習画像321aの第i特徴量における最大値MAXiと最小値MINiとを用いて正規化を行うことにより、変換後特徴量328及び変換後特徴量322の値がある範囲に収まるので、異なる特徴量との間であっても、変換後特徴量328及び変換後特徴量322の値の比較が容易になる。
前述した標準化及び正規化では、複数の学習画像321aの特徴量のみに基づいて行われる例を示したが、これに限定されるものではない。例えば、変換部340は、標準化及び正規化の少なくとも一方を、計測画像327の特徴量にさらに基づいて行ってもよい。具体的には、前述の平均μiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とから算出され、前述の標準偏差ρiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とから算出されてもよい。同様に、例えば、前述の最大値MAXiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とにおける最大値であり、前述の最小値MINiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とにおける最小値であってもよい。
このように、前述した標準化及び正規化の少なくとも一方が、計測画像327の第i特徴量にさらに基づいて行われることにより、標準化及び正規化の少なくとも一方を更に適切に行うことが可能になる。
図3の説明に戻り、作成部350は、変換部340によって変換された変換後特徴量を座標軸とする座標系に計測画像327の点と学習画像321aの点とをプロットしたグラフを作成するように構成されている。作成部350は、作成したグラフを出力部380に出力する。
また、作成部350は、作成するグラフに関して、例えば、拡大率、縮小率、回転角、仰角等のパラメータを変更可能に構成されている。よって、操作者(ユーザ)は、前述の入力装置35を介した入力操作によって、これらのパラメータを任意に変更することができる。
出力部380は、作成部350によって作成されたグラフを出力するように構成されている。具体的には、出力部380は、作成部350から入力されたグラフを前述した出力装置36に出力し、当該グラフは表示装置等に表示される。なお、グラフの出力は、出力装置36に限定されるものではない。例えば、出力部380は、当該グラフを外部の装置に出力してもよい。
図7に示すように、グラフは、例えば3次元(3D)の座標系で表される。X軸に平行な方向の第1座標軸は、例えば画像の面積である前述の第1特徴量の変換後特徴量であり、Y軸に平行な方向の第2座標軸は、例えば画像の重心のx座標である前述の第2特徴量の変換後特徴量であり、Z軸に平行な方向の第3座標軸は、例えば画像の重心のy座標である前述の第3特徴量の変換後特徴量である。
図7に示す例では、丸で示される計測画像327の点は、第1座標軸正方向側かつ第2座標軸負方向側に配置される、それぞれ十字で示される、複数の学習画像321aの各点のグループ内に配置されている。そのため、計測画像327の分類は、当該複数の学習画像321aに付与された分類と同じであると視覚的に推定することができる。
なお、作成部350が作成するグラフは、3次元の座標系にプロットする場合に限定されるものではない。作成部350は、3次元以外の次元数、例えば2次元又は4次元以上の座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成してもよい。
このように、変換後特徴量を座標軸とする座標系に計測画像327の点と学習画像321aの点とをプロットしたグラフを作成し、当該グラフを出力することにより、各座標軸のスケーリングが自動的に行われるので、複数の学習画像321aのそれぞれの点を適切な密度で分布させることができ、計測画像327を分類することが容易になる。また、計測画像327の特徴量が学習画像の特徴量から大きく外れた値を有する場合でも、当該座標系内に計測画像327の点をプロットすることが可能になる。従って、座標軸のスケール調整を行うことなく、適切なグラフを出力することができる。
図3の説明に戻り、分類部360は、学習画像321aと該学習画像321aに付与された分類とに基づいて、計測画像327を分類するように構成されている。これにより、作成されたグラフにおける視覚的な分布に基づいて推定される計測画像327の分類と、分類部360による計測画像327の分類とを比較することができる。
より詳細には、分類部360は、学習画像321aの特徴量と分類とを用いて学習させた学習済みモデル325に計測画像327の特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させるように構成されている。学習済みモデル325が、学習モデルの機械学習の際に、当該学習モデルに学習画像321aの変換後特徴量322を入力して生成された場合、学習済みモデル325に計測画像327の変換後特徴量328を入力する。
具体的には、分類部360は、記憶部320に記憶された学習済みモデル325及び計測画像327の変換後特徴量328をそれぞれ読み出し、学習済みモデル325に変換後特徴量328を入力して計測画像327の分類を出力させる。学習済みモデル325から出力された計測画像327の分類は、記憶部320に書き込まれて記憶される。また、分類部360は、学習済みモデル325から出力された計測画像327の分類を出力部380に出力するとともに、記憶部320から複数の学習用データ321のそれぞれを読み出し、複数の学習画像321aに付与されたそれぞれの分類を出力部380に出力する。なお、分類部360は、学習済みモデル325の出力をそのまま計測画像327の分類として用いなくてもよく、任意の後処理を行ってよい。
このように、学習画像321aの特徴量と分類とを用いて学習させた学習済みモデル325に計測画像327の特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させることにより、さらに高精度な計測画像327の分類を簡単かつ容易に得ることができる。
前述した出力部380は、計測画像327及び学習画像321aの分類に含まれるクラスに基づいて、グラフにプロットされる点の表示形式を変更するように構成されていてもよい。表示形式の変更は、計測画像327の分類が、どのクラス集合に近いかを確認するために、例えば、指定されたIDのクラスに属する点について、(A)他のIDのクラスに属する点の色、例えば白色に対して異なる色、例えば緑色に変えること、(B)他のIDのクラスに属する点の形状、例えば三角に対して異なる形状、例えば十字に変えること、等が挙げられる。あるいは、出力部380は、IDが示すクラスごとに、プロットする点の色や形状を変え、プロットする点とクラスとが紐づくようにしてもよい。これにより、クラスに応じて異なる表示形式の点でプロットされたグラフを出力することができる。
本実施形態では、分類部360が学習済みモデル325を用いて計測画像327の分類を得る例を示したが、これに限定されるものではない。例えば、分類部360は、マハラノビス距離に基づいて計測画像327を分類してもよい。この場合、分類部360は、所定の座標系において、複数の学習画像321aの分類ごとに形成される複数の点群(グループ)に対し、計測画像327の点とそれぞれの点群との間のマハラノビス距離を算出する。そして、分類部360は、マハラノビス距離が最小となるような点群のクラスに属するものとして、計測画像327の分類を決定する。
また、分類部360は、1つの分類手法によって計測画像327を分類する場合に限定されず、複数の分類手法から選択した1つ以上の分類手法を用いて、計測画像327を分類してもよい。この場合、分類手法ごとに、当該分類手法に従う計測画像327の分類が得られる。また、記憶部320は、各分類手法に従ってそれぞれ学習させた複数の学習済みモデルを記憶していてもよい。
選択部370は、複数の特徴量のそれぞれの指標に基づいて、複数の特徴量から少なくとも1つを選択するように構成されている。選択された特徴量は、記憶部320に書き込まれて記憶される。
図8に示すように、例えば、複数の特徴量から少なくとも1つの特徴量を選択可能な特徴量選択画面SSが表示される。選択部370は、特徴量選択画面SSの表示に必要なデータを生成し、生成したデータを前述した出力装置36に出力することで、特徴量選択画面SSを表示装置等に表示することができる。特徴量選択画面SSは、例えば、第1領域R1と、確認ボタンB1と、第2領域R2と、第3領域R3とを含んでいる。
第1領域R1は、複数の特徴量の中から少なくとも1つの特徴量を選択するためのものである。図8に示す例では、第1領域R1は、第1特徴量から第15特徴量のチェックボックスを含んでおり、そのうち、選択対象外となる第6特徴量から第15特徴量のチェックボックスはグレーアウトされ、選択不能となっている。一方、第1特徴量から第5特徴量のチェックボックスは、“オン”になっている。操作者(ユーザ)は、入力操作によってこれらのチェックボックスを“オン”又は“オフ”に変更することで、当該特徴量の選択状態又は非選択状態を設定することができる。
第2領域R2は、選択された特徴量に基づく学習画像321aの分類の正解率を表示するためのものである。複数の分類手法が存在する場合、分類手法ごとに、選択された特徴量に基づく学習画像321aの分類の正解率が表示される。具体的には、第1領域R1のチェックボックスのうちの少なくとも1つが“オン”になっているときに、操作者(ユーザ)が確認ボタンB1を押下すると、第2領域R2に、分類手法ごとの分類の正解率が算出され、表示される。
分類の正解率は、例えば、複数の学習画像321aのそれぞれについて、選択された特徴量に基づいて、当該分類手法を用いて取得される分類と、当該学習画像321aに対応するラベルデータ321bの分類とを比較し、一致するか否かを判定する。そして、全ての学習画像321aについて、取得された分類と対応するラベルデータ321bの分類とが一致した個数の割合(%)を算出する。図8に示す例では、第1特徴量から第5特徴量までの全ての特徴量が選択されているので、第1分類手法から第4分類手法までのそれぞれにおいて、正解率は“100.0”(%)となっている。
第3領域R3は、特徴量ごとの指標を表示するためのものである。複数の分類手法が存在する場合、分類手法ごと、且つ、特徴量ごとに、当該特徴量の指標が表示される。
特徴量の指標は、例えば、複数の学習画像321aのそれぞれについて、その特徴量を使用しないときに当該分類手法を用いて取得される分類と、当該学習画像321aに対応するラベルデータ321bの分類とを比較し、一致するか否かを判定する。そして、全ての学習画像321aについて、取得された分類と対応するラベルデータ321bの分類とが一致しない個数を指標として算出する。この場合、指標が“0”であるとき、その特徴量は分類のために不要であり、指標が“0”以外であるとき、その特徴量は分類のために必要である蓋然性が高い。図8に示す例では、例えば、第1分類方法において、第1特徴量、第2特徴量、及び第3特徴量の指標は全て“0”であるのに対し、第4特徴量及び第5特徴量の指標は、それぞれ、“2”である。よって、第1分類方法では、第4特徴量及び第5特徴量を選択すればよいことが推定される。
なお、特徴量の指標は、前述した例に限定されるものではなく、多種多様な方法で算出することができる。例えば、特徴量を選択するための方法として知られている、複数の特徴量を1つずつ独立に評価してランク付けを行うフィルタ法、複数の特徴量を組み合わせて評価するラッパー法、又は、学習モデルの学習と特徴量の評価とを同時に行う組み込み法等を使用し、特徴量の指標を算出することができる。また、特徴量の指標は、数値又は算出可能なものに限定されず、特徴量を選択するための基準、程度、又は目安等になるものであれば、例えば、レベル、ランク、クラス、級(等級)等であってもよい。
本実施形態では、選択部370が、特徴量選択画面SSを表示させ、操作者(ユーザ)の入力操作に従って特徴量を選択する例を示したが、これに限定されるものではない。例えば、選択部370は、複数の特徴量のそれぞれの指標に基づいて複数の特徴量から少なくとも1つの特徴量を自動的に選択してもよい。図8を用いて説明した前述の例では、第1分類方法において、第4特徴量及び第5特徴量の指標は、それぞれ、“0”以外であるから、選択部370は、第1特徴量から第5特徴量のうちの第4特徴量及び第5特徴量を自動的に選択する。
また、作成部350は、選択部370により選択された特徴量に基づいてグラフを作成してもよい。すなわち、作成部350は、選択された特徴量の変換後特徴量を座標軸とする座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成する。これにより、特徴量の数(次元)を削減することができ、選択された特徴量の変換後特徴量を座標軸とする座標系において、計測画像327の点と学習画像321aの点とを更に適切に分布させることができる。
さらに、学習部330は、選択部370により選択された特徴量を学習モデルに入力して機械学習を行い、分類部360は、学習済みモデル325に選択部370により選択された特徴量を入力して計測画像327の分類を出力させてもよい。すなわち、学習部330は、学習画像321aにおける選択された特徴量を入力とし、該学習画像321aの分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成する。そして、分類部360は、この学習済みモデル325に計測画像327における選択された特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させる。これにより、学習時間を短縮することができるともに、学習済みモデル325の過学習と計測画像327の分類精度の低下とを抑制することができる。
なお、学習部330、変換部340、作成部350、分類部360、選択部370、及び出力部380のうちの少なくとも1つは、プロセッサ31が、記憶装置33に記憶されたプログラムを実行することにより実現されてもよい。プログラムを実行する場合、当該プログラムは、記憶媒体に格納されていてもよい。当該プログラムを格納した記憶媒体は、コンピュータ読み取り可能な非一時的な記憶媒体(Non-Transitory computer readable medium)であってもよい。非一時的な記憶媒体は、特に限定されないが、例えば、USBメモリ、又はCD-ROM(Compact Disc ROM)等の記憶媒体であってもよい。
次に、図9を参照しつつ、一実施形態に従う画像処理装置が行う処理手順について説明する。図9は、一実施形態における画像処理装置30が行う画像処理S100の一例を説明するためのフローチャートである。
なお、以下の例では、記憶部320に複数の学習用データ321、学習済みモデル325、及び計測画像327が記憶されているものとして、説明する。
図9に示すように、まず、変換部340は、記憶部320に記憶された計測画像327及び複数の学習用データ321を読み出し、当該計測画像327の特徴量に対し、複数の学習用データ321の学習画像321aの特徴量に基づいて標準化及び正規化の少なくとも一方を行い、変換後特徴量328に変換する(ステップS101)。変換された変換後特徴量328は、記憶部320に記憶される。
次に、変換部340は、記憶部320に記憶された複数の学習用データ321を読み出し、当該複数の学習用データ321の学習画像321aのそれぞれの特徴量に対し、複数の学習用データ321の学習画像321aの特徴量に基づいて標準化及び正規化の少なくとも一方を行い、変換後特徴量322に変換する(ステップS102)。変換された変換後特徴量322は、記憶部320に記憶される。
次に、作成部350は、図示しないパラメータ設定画面における入力に基づいて、パラメータの入力があるか否かを判定する(S103)。操作者(ユーザ)は、パラメータ設定画面において、拡大率、縮小率、回転角、仰角等のパラメータの値を変更することができる。
ステップS103の判定の結果、パラメータの入力がある場合、作成部350は、入力に応じたデータを生成し、当該パラメータに設定する(S104)。一方、ステップS103の判定の結果、パラメータの入力がない場合、作成部350はステップS104を行わない。このとき、作成部350は、例えばデフォルトに応じたデータをパラメータに設定する。
次に、選択部370は、図8に示す特徴量選択画面SSにおける入力に基づいて、特徴量の選択があるか否かを判定する(S105)。操作者(ユーザ)は、特徴量選択画面SSの第1領域R1において、各特徴量のチェックボックスを“オン”又は“オフ”に変更することができる。
ステップS105の判定の結果、特徴量の選択がある場合、選択部370は、複数の特徴量から当該選択に従って1つ又は複数の特徴量を選択し、作成部350は、選択された特徴量の変換後特徴量を座標軸に設定する(S106)。一方、ステップS105の判定の結果、特徴量の選択がない場合、選択部370及び作成部350はステップS106を行わない。このとき、作成部350は、例えばデフォルトに従った特徴量の変換後特徴量を座標軸に設定する。
次に、作成部350は、記憶部320に記憶された計測画像327及び複数の学習用データ321を読み出し、設定された特徴量の変換後特徴量を座標軸とする座標系に、計測画像327の点と、複数の学習画像321aのそれぞれの点とをプロットしたグラフを作成する(S107)。そして、出力部380は、ステップS107で作成されたグラフを表示装置等に出力する(S108)。
ステップS108の後、画像処理装置30は、通信部310が別の計測画像327を受信するまで、又は、操作者(ユーザ)の操作によって別の計測画像327が選択されるまで、ステップS103からステップS108までを繰り返す。
なお、本実施形態で説明したシーケンス及びフローチャートは、処理に矛盾が生じない限り、順序を入れ替えてもよい。
以上、本発明の例示的な実施形態について説明した。本実施形態における画像処理装置30及び画像処理方法によれば、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量に基づいて標準化及び正規化の少なくとも一方を行って変換後特徴量328及び変換後特徴量322にそれぞれ変換され、変換後特徴量を座標軸とする座標系に計測画像327の点と学習画像321aの点とをプロットしたグラフが作成され、当該グラフが出力される。これにより、各座標軸のスケーリングが自動的に行われるので、複数の学習画像321aのそれぞれの点を適切な密度で分布させることができ、計測画像327を分類することが容易になる。また、計測画像327の特徴量が学習画像の特徴量から大きく外れた値を有する場合でも、当該座標系内に計測画像327の点をプロットすることが可能になる。従って、座標軸のスケール調整を行うことなく、適切なグラフを出力することができる。
なお、以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更/改良され得るとともに、本発明にはその等価物も含まれる。すなわち、実施形態に当業者が適宜設計変更を加えたものも、本発明の特徴を備えている限り、本発明の範囲に包含される。例えば、実施形態が備える各要素及びその配置、材料、条件、形状、サイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、実施形態は例示であり、異なる実施形態で示した構成の部分的な置換又は組み合わせが可能であることは言うまでもなく、これらも本発明の特徴を含む限り本発明の範囲に包含される。
[付記1]
検査対象物(TA)の計測画像(327)を分類するための画像処理装置(30)であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに対し、複数の学習画像(321a)の特徴量に基づいて標準化及び正規化の少なくとも一方を行って変換後特徴量(322,328)にそれぞれ変換する変換部(340)と、
変換後特徴量を座標軸とする座標系に計測画像(327)の点と学習画像(321a)の点とをプロットしたグラフを作成する作成部(350)と、
グラフを出力する出力部(380)と、を備える、
画像処理装置(30)。
[付記11]
検査対象物(TA)の計測画像(327)を分類するための画像処理方法であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに対し、複数の学習画像(321a)の特徴量に基づいて標準化及び正規化の少なくとも一方を行って変換後特徴量(322,328)にそれぞれ変換するステップと、
変換後特徴量を座標軸とする座標系に計測画像(327)の点と学習画像(321a)の点とをプロットしたグラフを作成するステップと、
グラフを出力するステップと、を含む、
画像処理方法。