JP7571504B2 - Information processing device, visual inspection device, printed circuit board manufacturing system and program - Google Patents
Information processing device, visual inspection device, printed circuit board manufacturing system and program Download PDFInfo
- Publication number
- JP7571504B2 JP7571504B2 JP2020198006A JP2020198006A JP7571504B2 JP 7571504 B2 JP7571504 B2 JP 7571504B2 JP 2020198006 A JP2020198006 A JP 2020198006A JP 2020198006 A JP2020198006 A JP 2020198006A JP 7571504 B2 JP7571504 B2 JP 7571504B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- printed circuit
- circuit board
- good
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本発明は、情報処理装置、外観検査装置、プリント基板製造システムおよびプログラムに関する。 The present invention relates to an information processing device, an appearance inspection device, a printed circuit board manufacturing system, and a program.
従来、多数の実装部品が実装されるプリント基板製造において、実装部品の実装品質を検査する外観検査システムが提案されている。このような外観検査システムによれば、実装部品の電極部とプリント基板上のランド部とのはんだ付けが適切に行われているかを判断するために、はんだ接合部の形状を正確に捉える必要がある。そこで、鏡面反射をもつはんだ接合部の形状を取得する方法として、3色の光源を異なる入射角度で照射し、その反射光を撮像することで形状を色情報として取得する方法が知られている。そして、従来の外観検査システムは、このように色情報として取得したはんだ接合部の形状に対して、特定の色の領域の面積や長さなどのパラメータを用いて、品質を判定するようにしている。 Conventionally, in the manufacture of printed circuit boards on which a large number of mounted components are mounted, visual inspection systems have been proposed to inspect the mounting quality of mounted components. With such visual inspection systems, it is necessary to accurately capture the shape of the solder joints in order to determine whether the electrodes of the mounted components and the lands on the printed circuit board have been soldered properly. As a method for acquiring the shape of a solder joint that has specular reflection, a method is known in which three color light sources are irradiated at different angles of incidence and the reflected light is captured to acquire the shape as color information. Then, conventional visual inspection systems use parameters such as the area and length of a specific color area to judge the quality of the shape of the solder joint acquired as color information in this way.
特許文献1には、判定ロジックのパラメータを自動生成する目的で、良品画像および不良品画像を用いて、それぞれの画像特徴量から良品/不良品を分離するための特徴量の閾値や検査領域および色範囲を用いてロジックのパラメータを設定する技術が開示されている。
しかしながら、従来の外観検査システムによれば、生産設備の経時変化や実装条件変更によってはんだ表面状態が変化することで撮像される画像の写りにばらつきが生じ、同じロジックを使った画像検査では経時で判定精度が低下するという問題がある。 However, with conventional visual inspection systems, the appearance of the captured images varies due to changes in the solder surface condition caused by changes in production equipment over time or changes in mounting conditions, and there is a problem in that the accuracy of judgment decreases over time when using image inspections using the same logic.
本発明は、上記に鑑みてなされたものであって、生産設備の経時変化や実装条件変更による画像検査の判定精度低下を抑制することを目的とする。 The present invention has been made in consideration of the above, and aims to suppress the deterioration of the judgment accuracy of image inspection caused by changes in production equipment over time or changes in mounting conditions.
上述した課題を解決し、目的を達成するために、本発明は、プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、経時での良品画像の画像特徴量の変化を検知する変化検知部と、前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、を備え、前記再学習部は、前記特徴抽出部の抽出条件を修正する、ことを特徴とする。 In order to solve the above-mentioned problems and achieve the object, the present invention comprises a feature extraction unit that uses machine learning to extract image features from a captured image of the appearance of a printed circuit board, a judgment unit that judges whether the product is good or bad based on the image features extracted by the feature extraction unit, a change detection unit that detects changes in the image features of good product images over time, and a re-learning unit that corrects the judgment conditions of the judgment unit based on the detection results of the change detection unit, using defective product images and good product images at the time when a change in the features has occurred , so that good products can be separated from defective products , and is characterized in that the re-learning unit corrects the extraction conditions of the feature extraction unit .
本発明によれば、生産設備の経時変化や実装条件変更による判定精度の低下を抑制することができるという効果を奏する。 The present invention has the advantage of being able to suppress deterioration in judgment accuracy due to changes in production equipment over time or changes in mounting conditions.
以下に添付図面を参照して、情報処理装置、外観検査装置、プリント基板製造システムおよびプログラムの実施の形態を詳細に説明する。以下においては、本発明を、プリント基板上に装着されたコンデンサチップ、ICなどの素子であるSMD(Surface Mount Device)のはんだ付けの良否を光学的に判定する外観検査装置を含むプリント基板製造システムに適用した実施形態について説明する。 The following describes in detail embodiments of an information processing device, an appearance inspection device, a printed circuit board manufacturing system, and a program with reference to the accompanying drawings. In the following, an embodiment is described in which the present invention is applied to a printed circuit board manufacturing system including an appearance inspection device that optically determines whether the soldering of SMDs (Surface Mount Devices), which are elements such as capacitor chips and ICs mounted on a printed circuit board, is good or bad.
(第1の実施の形態)
図1は、第1の実施の形態にかかるプリント基板製造システム100の主要な装置を示す概略構成図である。図1に示すように、プリント基板製造システム100は、はんだ印刷機20、素子マウンタ30、リフロー炉40及び外観検査装置50を備える。
(First embodiment)
1 is a schematic diagram showing the main devices of a printed circuit
プリント基板製造システム100は、部品が実装されていない状態のプリント基板をはんだ印刷機20内に搬送する。はんだ印刷機20は、部品が実装されていない状態のプリント基板上の所定位置に、はんだを印刷する。このようにしてはんだが印刷されたプリント基板は、素子マウンタ30に搬送される。素子マウンタ30は、いわゆるチップマウンタ及びQFP(Quad Fiat Package)マウンタである。素子マウンタ30は、コンデンサやIC等のSMDである実装部品をプリント基板上に載置する。その後、コンデンサやIC等の実装部品が載置されたプリント基板は、リフロー炉40内に搬送される。リフロー炉40は、コンデンサやIC等の実装部品が載置されたプリント基板を加熱処理し、はんだ印刷機20によって印刷されたプリント基板上のはんだを溶解する。溶解したプリント基板上のはんだは、冷却されることで実装部品をプリント基板上に固定する。
The printed circuit
以上のようにして実装部品が固定されて実装されたプリント基板は、その後、ベルトコンベア等の搬送手段によって、又はオペレータによる手作業によって、外観検査装置50内に搬入される。外観検査装置50は、後述する方法によってはんだ付けの良否を光学的に判定する、自動光学検査(Automated Optical Inspection;AOI)を実行する。そして、外観検査装置50で良品と判定されたプリント基板は、図示しない後段の処理工程に移送される。
The printed circuit board with the mounted components fixed in the above manner is then carried into the
後段の処理工程を実施する装置としては、例えば、プリント基板上に更に部品をマウントする部品マウンタや、プリント基板を包装する包装装置などが挙げられる。また、後段の処理工程を実施する装置は、例えば、外観検査装置50による良否判定の結果に応じて、良品と不良品を分別する分別装置であってもよい。なお、プリント基板製造システム100では、外観検査装置50による良否判定後に処理工程を実施する装置が設置されているが、この装置は必ずしも必要であるわけではない。
Examples of devices that perform subsequent processing steps include a component mounter that mounts further components on the printed circuit board, and a packaging device that packages the printed circuit board. The device that performs subsequent processing steps may also be, for example, a sorting device that separates non-defective products from defective products based on the result of the pass/fail judgment by the
また、本実施形態では、外観検査装置50に、情報処理装置である修正端末60が接続されている。修正端末60は、その内部に、外観検査装置50から出力される判定結果データを書き込み及びその書き込まれたデータを読み出すデータ入出力手段を備えている。
In addition, in this embodiment, a
修正端末60は、外観検査装置50による良否判定結果が正しいか否かをオペレータが目視で再検査し、検査結果に誤りがあったときに検査結果データを修正するためのものである。本実施形態では、プリント基板上の個別のバーコードが形成されており、そのバーコード情報をバーコード自動読取装置で読み取る。このバーコード自動読取装置で読み取ったバーコード情報及び外観検査装置50の判定結果データは、シリアル通信ケーブルを通して修正端末60に送信され、保存される。
The
詳細は後述するが、修正端末60は、外観検査装置50で不良品と判定された画像に対して、画像検査アルゴリズムを導入して良品/不良品の判定を実施し、目視検査工数を削減する。したがって、修正端末60は、保存された判定結果データについて、良品/不良品の判定をさらに実施した後、表示手段であるディスプレイ60aに不良と判定した判定結果を映し出す。そして、オペレータは、不良と判定された判定結果がディスプレイ60aに映し出されたら、実際のプリント基板を目視で確認し、本当に不良品であるかを確認する。その結果、不良品でないと判断したら、オペレータは、修正端末60の図示しないキーボード等のデータ修正入力手段によって修正入力を行う。
As will be described in detail later, the
なお、本実施形態の修正端末60は、外観検査装置50に接続されたスタンドアローン型のコンピュータで構成されているが、外観検査装置50に対してLAN等のネットワークで接続したものであってもよい。また、本実施形態の修正端末60は、外観検査装置50に一体的に備えられるものであってもよい。
The
次に、外観検査装置50について説明する。
Next, we will explain the
図2は、外観検査装置50の概略構成図である。図2に示すように、外観検査装置50は、SMDを装着したプリント基板であるPCB4に光を照射する3つの光源1R,1G,1Bそれぞれの円環状の光源を備えている。よって、外観検査装置50では、合計6つの光源を備えている。なお、各光源1R,1G,1Bには、カラーフィルタを張り付けたインバータ制御のリング状の蛍光灯や、各色の光を発する発光ダイオード(LED)などを利用することができる。
Figure 2 is a schematic diagram of the
また、外観検査装置50は、これらの光源1R,1G,1Bから照射された光を受光して撮像する撮像装置としての高速カメラ2を備えている。高速カメラ2は、10万分の1秒程度の高速シャッタで撮像可能なものである。高速カメラ2は、例えばCCDなどの撮像素子で構成されたものを用いることができる。本実施形態では、高速カメラ2として、分解能が13μm、15μm、20μm、25μm、30μm、35μm、50μm、70μmの間で変更可能なCCDカメラを使用する。高速カメラ2は、図2に示すように、検査領域の真上に配置される。
The
外観検査装置50は、高速カメラ2に対して相対移動するように載置台に載置したPCB4を水平方向に2次元的に移動させる駆動手段としてのXYステージ3、制御手段としての制御部10なども備えている。XYステージ3は、PCB4を水平に支持している。
The
制御部10は、CPU(Central Processing Unit)、記憶部、インターフェース部などを備える。制御部10は、高速カメラ2のシャッタを制御したり、ステージ駆動部3aを介してXYステージ3を駆動制御したり、良否判断処理を行ったりする。
The
次に、良否判断処理の前提となる画像撮像処理について説明する。 Next, we will explain the image capture process that is the premise for the pass/fail judgment process.
図3は、良否判断処理の前提となる画像撮像処理を説明する図である。図3に示す図は、SMDの一例であるコンデンサ5の電極5aをPCB4上のパッド4aに接続するはんだ接合部であるはんだフィレット6に光を照射した様子を示す図である。図3に示すように、光源1Rは、鉛直方向に対して一番小さな照射角度で光(赤色光R)を照射する赤色光源である。光源1Bは、一番大きな照射角度で光(青色光B)を照射する青色光源である。光源1Gは、光源1Rと光源1Bとの中間の照射角度で光(緑色光G)を照射する緑色光源である。
Figure 3 is a diagram explaining the image capture process that is the premise of the pass/fail judgment process. The diagram shown in Figure 3 is a diagram showing the state in which light is irradiated onto a
図3に示すように、高速カメラ2は、光源1R、1G、1Bからの赤色光R、緑色光G、青色光Bが照射されたPCB4を撮像する。この場合、高速カメラ2は、R、G、Bの3色に色分けされた検査対象画像を撮像する。この3色の色分布により、はんだ付け状態、すなわちはんだフィレット6の外形を観察することができる。
As shown in FIG. 3, the high-
高速カメラ2の撮像領域(検査領域)は、PCB4に比べて狭い。そのため、高速カメラ2によってPCB4を撮像する際には、XYステージ3上のPCB4は、水平方向に滑らかに連続して移動する。具体的には、高速カメラ2は、撮像領域内に収まる1又は2以上のSMDごとに、順次、PCB4を撮像する。こうすることにより、各SMDの一例であるコンデンサ5の電極5aに対するはんだフィレット6の外形を把握することができる。
The imaging area (inspection area) of the high-
ここで、図4は検査対象画像の一例を示す図である。図4に示すように、検査対象画像は、上記のように、はんだ接合部であるはんだフィレット6の外形を色分布として観察できるように撮像した画像を用いる。
Here, FIG. 4 shows an example of an image to be inspected. As shown in FIG. 4, the image to be inspected is an image captured so that the outer shape of the
次に、外観検査装置50の制御部10における良否判断処理について説明する。
Next, we will explain the pass/fail judgment process in the
図5は、良否判断方法の流れの一例を示すフローチャートである。図5に示すように、外観検査装置50の制御部10は、まず、XYテーブル3を駆動制御して、高速カメラ2の撮像領域内にPCB4上のコンデンサ5を移動させる(ステップS1)。
Figure 5 is a flow chart showing an example of the flow of a quality determination method. As shown in Figure 5, the
次に、制御部10は、光源1R、1G、1BからPCB4に対して照射される各色の光の反射光を高速カメラ2によって撮像する(ステップS2)。これにより、その撮像データに基づいて、図4に示したような画像を得ることができる。このとき、パッド4aに対して正常にはんだフィレット6が形成されていれば、図4に示したように、そのはんだフィレット6の領域(位置、大きさ)は青色で示されることになる。正常にはんだフィレット6が形成されていれば、図4に示したように、はんだフィレット6では青色の色相の領域が大きくなる。これに対し、不良品のはんだフィレット6では青色以外の色相の領域が大きくなる。
Next, the
次に、制御部10は、高速カメラ2によって撮像した撮像データから、単一のコンデンサ5の電極5aの両側に存在する青色領域の画素数の和Slを算出する(ステップS3)。そして、制御部10は、算出した画素数の和Slが所定画素数(例えば、8画素)よりも大きいか否かを判断する(ステップS4)。この判断の結果、制御部10は、和Slが8画素よりも大きい場合には、そのコンデンサ5は良品であると判定し(ステップS5)、和Slが8画素以下である場合には、そのコンデンサ5は不良品であると判定する(ステップS6)。これにより、コンデンサ5ごとに、はんだ付けの良否を判定することができる。
Next, the
ところで、外観検査装置50における検査対象画像の検査においては、上述のように、検査対象画像の色特徴に対してルールベースの検査を実施している。しかしながら、検査対象画像のような生産系データの場合、経時で生産条件がわずかに変わることで、取得できるデータの傾向も変化するため、一度決めた判定基準で継続的に検査できない。そのため、外観検査装置50で良品を不良品と判定する虚報(過検出)が多くなる。図6は、従来の外観検査を示す図である。図6に示すように、従来においては、外観検査装置50と目視検査との2段階で検査を実施する。そのため、外観検査装置50で良品を不良品と判定する虚報(過検出)が多くなると、目視検査に工数がかかってしまう、という問題がある。
In the inspection of the inspection target image in the
図7は、本実施形態の外観検査を示す図である。図7に示すように、本実施形態の修正端末60においては、詳細は後述するが、外観検査装置50で不良品と判定された画像に対して、画像検査アルゴリズムを導入して良品/不良品の判定を実施し、目視検査工数を削減するようにしたものである。画像検査アルゴリズムは、運用の中で、データを蓄積して追加学習しながら検査対象画像の検査を行う追加学習型画像検査アルゴリズムであり、機械学習を用いる。画像検査アルゴリズムによれば、判定結果を利用し、事前構築した判定器の精度を向上させることができる。
Figure 7 is a diagram showing the visual inspection of this embodiment. As shown in Figure 7, in the
ここで、図8は修正端末60のハードウェア構成を示すブロック図である。図8に示すように、修正端末60は、コンピュータによって構築されている。図8に示されているように、修正端末60は、CPU601、ROM602、RAM603、HD604、HDD(Hard Disk Drive)コントローラ605、ディスプレイ606、外部機器接続I/F(Interface)608、ネットワークI/F609、データバス610、キーボード611、ポインティングデバイス612、DVD-RW(Digital Versatile Disc Rewritable)ドライブ614、メディアI/F616を備えている。
Here, FIG. 8 is a block diagram showing the hardware configuration of the
これらのうち、CPU601は、修正端末60全体の動作を制御する。ROM602は、IPL等のCPU601の駆動に用いられるプログラムを記憶する。RAM603は、CPU601のワークエリアとして使用される。HD604は、プログラム等の各種データを記憶する。HDDコントローラ605は、CPU601の制御にしたがってHD604に対する各種データの読み出し又は書き込みを制御する。ディスプレイ606は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F608は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、外観検査装置50、USB(Universal Serial Bus)メモリやプリンタ等である。外部機器接続I/F608は、受信部61および出力部62(図9参照)として機能する。ネットワークI/F609は、通信ネットワークを利用してデータ通信をするためのインターフェースである。バスライン610は、図8に示されているCPU601等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
Of these, the
また、キーボード611は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス612は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ614は、着脱可能な記録媒体の一例としてのDVD-RW613に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWに限らず、DVD-R等であってもよい。メディアI/F616は、フラッシュメモリ等の記録メディア615に対するデータの読み出し又は書き込み(記憶)を制御する。
The
本実施形態の修正端末60で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disc)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
The program executed by the
また、本実施形態の修正端末60で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の修正端末60で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。また、本実施形態の修正端末60で実行されるプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
The program executed by the
次に、外観検査処理にかかる機能について説明する。 Next, we will explain the functions related to visual inspection processing.
図9は、外観検査処理にかかる機能を示す機能ブロック図である。図9に示すように、修正端末60は、受信部61、前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67、出力部62を備える。受信部61および出力部62は、上述したように、外部機器接続I/F608である。また、本実施の形態の修正端末60で実行されるプログラムは、各部(前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67が主記憶装置上に生成されるようになっている。
Figure 9 is a functional block diagram showing the functions related to the appearance inspection process. As shown in Figure 9, the
受信部61は、外観検査装置50において不良と判定された画像、すなわち高速カメラ2にて撮像されたプリント基板の外観情報を外観検査装置50から受信する。
The receiving
前処理部63は、受信部61で受信した画像に対し、検査内容によって適した前処理を実行する。具体的には、前処理部63は、指定色の抽出(例えば、Bのみなど)を行い、画像から判定に必要な領域のみを抽出する抽出処理を実行する。
The preprocessing
また、前処理部63は、ルールベースの画像処理に基づき、はんだ接合部の品質検査においてノイズとなる情報を除去する処理を実行するノイズ除去部として機能する。品質検査においてノイズとなる情報としては、位置ばらつき、電極部の反射光の映り込み、などが挙げられる。
The
図10は、位置ばらつきの除去の一例を示す図である。図10に示すように、位置ばらつきの除去は、検出ズレを考慮してはんだ接合部を検出する。 Figure 10 shows an example of removing positional variation. As shown in Figure 10, removing positional variation involves detecting solder joints while taking into account detection deviations.
図11は、電極部の反射光の映り込みの除去の一例を示す図である。図11に示すように、電極部の反射光の映り込みの除去は、元画像に対してマスキングを施して、不良箇所の近傍をトリミングすることで、はんだ接合部を検出する。 Figure 11 is a diagram showing an example of removing the glare of reflected light from the electrode part. As shown in Figure 11, the glare of reflected light from the electrode part is removed by masking the original image and trimming the vicinity of the defective part to detect the solder joint.
特徴抽出部64は、機械学習を用いて画像特徴量の抽出を行う。
The
判定部65は、特徴抽出部64で抽出した画像特徴量を、良品/不良品を示す指標値に変換する。そして、判定部65は、良品/不良品を示す指標値に基づき、閾値により良品/不良品を判定する。
The
出力部62は、判定部65における判定結果を出力する。
The
変化検知部66は、特徴抽出部64あるいは判定部65の出力を用いて、良品画像の特徴量の変化を検知する。以下において、変化検知部66で用いる変化検知ロジックについて説明する。
The change detection unit 66 detects changes in the features of the non-defective images using the output of the
ここで、図12は変化検知部66で用いる変化検知ロジック(散布図)の説明図である。図12は、画像特徴量の分布に基づいた画像特徴量の変動検知方法を示している。変化検知部66は、取得済みの良品画像の画像特徴量の分布9aに対して、特徴抽出部64および判定部65から出力されたロット変更等の製造条件変更後や所定の生産数または経過期間後の良品画像の画像特徴量の分布10aを比較する。なお、図12において、符号9bまたは10bは、画像1枚の画像特徴量を示している。変化検知部66は、各画像特徴量群の平均や分散などの統計量を用いて、比較を行う。
Here, FIG. 12 is an explanatory diagram of the change detection logic (scatter plot) used by the change detection unit 66. FIG. 12 shows a method for detecting fluctuations in image features based on the distribution of image features. The change detection unit 66 compares the
なお、図12では2次元の画像特徴量空間を示しているが、変化検知部66は、より高次または低次の画像特徴量空間で評価してもよい。また、変化検知部66は、画像特徴量ではなく、判定部65で用いる良品/不良品を示す指標値を用いて変化検知を実施してもよい。
Note that while FIG. 12 shows a two-dimensional image feature space, the change detection unit 66 may perform evaluation in a higher- or lower-dimensional image feature space. In addition, the change detection unit 66 may perform change detection using index values indicating pass/fail used by the
ここで、図13は変化検知部66で用いる変化検知ロジック(時間変化)の説明図である。図13は、画像特徴量の時系列変化に基づいた画像特徴量の変動検知方法を示すものである。図13は、良品画像の画像特徴量の分布を時系列データとして表現している。変化検知部66は、取得済みの良品画像の画像特徴量の分布9cに対する、特徴抽出部64および判定部65から出力されたロット変更等の製造条件変更後や所定の生産数または経過期間後の良品画像の画像特徴量の分布10cの変化を、時系列データの異常検知手法を用いて実施する。すなわち、変化検知部66は、ロット変更等の製造条件変更後や所定数の生産または所定期間後のデータ間を比較することで、画像の変化の有無を調べる。なお、図13においては、時系列での画像特徴量の変化を示したが、これに限るものではなく、生産数の変化に応じた画像特徴量の変化であってもよい。 Here, FIG. 13 is an explanatory diagram of the change detection logic (time change) used by the change detection unit 66. FIG. 13 shows a method for detecting variations in image features based on time-series changes in image features. FIG. 13 expresses the distribution of image features of non-defective images as time-series data. The change detection unit 66 uses a time-series data anomaly detection method to detect changes in the distribution 10c of image features of non-defective images after a change in manufacturing conditions such as a change in lot, or after a specified number of productions or after a certain period of time, relative to the distribution 9c of image features of acquired non-defective images. That is, the change detection unit 66 checks for the presence or absence of changes in the image by comparing data after a change in manufacturing conditions such as a change in lot, or after a specified number of productions or after a specified period of time. Note that, although FIG. 13 shows changes in image features in a time series, the present invention is not limited to this, and may be changes in image features according to changes in the number of productions.
変化検知部66は、変化を検知した場合、特徴抽出部64および判定部65のロジックを修正する。変化検知部66は、不良品画像および変動発生時の良品画像を用いて、良品/不良品が最も分離できるように特徴抽出部64の抽出条件および判定部65の判定条件を修正する。
When the change detection unit 66 detects a change, it modifies the logic of the
再学習部67は、変化検知部66での検知結果により、特徴抽出部64の抽出条件および判定部65の判定条件の再学習を行う。再学習部67は、再学習結果を特徴抽出部64および判定部65に送り、ロジックを修正する。なお、変化検知部66および再学習部67は、変化を検知した場合、判定部65のみのロジックを修正するようにしてもよい。
The re-learning
次に、修正端末60の学習処理について説明する。
Next, we will explain the learning process of the
ここで、図14は修正端末60の学習処理の流れを示すフローチャートである。図14に示すように、特徴抽出部64は、前回学習後から所定の生産数または所定の期間経過したと判定すると、変化検知の実施要と判定し(ステップS11のYes)、ステップS12に進む。
Here, FIG. 14 is a flowchart showing the flow of the learning process of the
特徴抽出部64は、学習済み画像の画像特徴量の抽出を行う(ステップS12)。更に、特徴抽出部64は、所定生産数または所定期間後の画像の画像特徴量の抽出を行う(ステップS13)。
The
続いて、変化検知部66は、ステップS12およびS13でそれぞれ抽出した画像特徴量から図12または図13に示した変化検知ロジックにて変化量を抽出し(ステップS14)、閾値判定を行う(ステップS15)。 Next, the change detection unit 66 extracts the amount of change from the image features extracted in steps S12 and S13, respectively, using the change detection logic shown in FIG. 12 or FIG. 13 (step S14), and performs a threshold determination (step S15).
変化検知部66において変化量が閾値以上であるとして、変化が認められた場合(ステップS15のYes)、再学習部67は、変化後の画像を用いて、特徴抽出部64の抽出条件を更新し(ステップS16)、判定部65の判定条件を更新することで(ステップS17)、再学習する。
If the change detection unit 66 detects that the amount of change is equal to or greater than the threshold and a change is detected (Yes in step S15), the re-learning
一方、変化検知部66において変化量が閾値以上でなく、変化が認められなかった場合(ステップS15のNo)、再学習部67は、そのまま処理を終了する。
On the other hand, if the amount of change is not greater than the threshold value and no change is detected by the change detection unit 66 (No in step S15), the re-learning
このように本実施形態によれば、経時での良品画像の画像特徴量を分析し、画像特徴量の変化を検知したとき、変化後の良品画像の画像特徴量を再学習し、良品/不良品を分離できるようにロジックを修正するので、生産設備の経時変化や実装条件変更によるロジックの判定精度の低下を抑制することができ、安定した画像検査を実施することができる。 As described above, according to this embodiment, the image features of good product images are analyzed over time, and when a change in the image features is detected, the image features of the good product images after the change are re-learned, and the logic is modified to enable separation of good products from defective products. This makes it possible to suppress deterioration in the accuracy of logic judgment due to changes in production equipment over time or changes in mounting conditions, and enables stable image inspection to be performed.
なお、判定部65は、受信部61で受信した画像と、当該判定部65における判定結果と、検査員の目視による良品/不良品の判定結果とを、機械学習にて分類付けするようにしてもよい。このようにすることで、検査員の判定結果に近い検査を実現することができる。すなわち、検査員の目視判定を初期のみの実行とし、精度向上が図られた後は、検査員による目視判定の工程をカットすることができるようになる。
The
なお、本実施形態においては、再学習部67は、変化検知部66において変化量が閾値以上であって、変化が認められた場合に(ステップS15のYes)、再学習するようにしたが、これに限るものではない。
In this embodiment, the re-learning
ここで、図15は、修正端末60の学習処理の流れの変形例を示すフローチャートである。図15に示すように、再学習部67は、外観検査の誤判定数または誤判定率が閾値以上である場合に(ステップS21のYes)、変化後の画像を用いて、特徴抽出部64の抽出条件を修正し(ステップS22)、判定部65の判定条件を修正することで(ステップS23)、再学習するようにしてもよい。誤判定率の閾値としては、例えば、10~20%である。
Here, FIG. 15 is a flowchart showing a modified example of the flow of the learning process of the
なお、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり、コンピュータが、データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し、新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。 Machine learning is a technology that allows computers to acquire human-like learning capabilities, in which the computer autonomously generates algorithms necessary for judgments such as data identification from training data that is previously loaded, and applies these to new data to make predictions. The learning method for machine learning may be any of supervised learning, unsupervised learning, semi-supervised learning, reinforcement learning, and deep learning, or may be a combination of these learning methods; any learning method for machine learning is acceptable.
2 撮像装置
4 プリント基板
50 外観検査装置
60 情報処理装置
63 ノイズ除去部
64 特徴抽出部
65 判定部
66 変化検知部
67 再学習部
100 プリント基板製造システム
Reference Signs List 2: Imaging device 4: Printed circuit board 50: Appearance inspection device 60: Information processing device 63: Noise removal section 64: Feature extraction section 65: Determination section 66: Change detection section 67: Re-learning section 100: Printed circuit board manufacturing system
Claims (8)
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
を備え、
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とする情報処理装置。 a feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Equipped with
The re-learning unit corrects an extraction condition of the feature extraction unit.
23. An information processing apparatus comprising:
ことを特徴とする請求項1に記載の情報処理装置。 The re-learning unit corrects the judgment conditions of the judgment unit based on the number of erroneous judgments or the erroneous judgment rate of the appearance inspection.
2. The information processing apparatus according to claim 1,
ことを特徴とする請求項1に記載の情報処理装置。 the re-learning unit corrects the extraction conditions of the feature extraction unit based on the number or rate of erroneous determinations in the visual inspection.
2. The information processing apparatus according to claim 1 ,
ことを特徴とする請求項1ないし3の何れか一項に記載の情報処理装置。 a noise removal unit that removes information that becomes noise in appearance inspection from the captured image of the appearance of the printed circuit board;
4. The information processing apparatus according to claim 1, wherein the information processing apparatus further comprises:
ことを特徴とする請求項1ないし4の何れか一項に記載の情報処理装置。 The determination unit classifies the captured image, the determination result of the determination unit as to whether the product is good or bad, and the determination result of the inspector as to whether the product is good or bad by visual inspection using machine learning.
5. The information processing apparatus according to claim 1, wherein the information processing apparatus further comprises: a first input section;
前記プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
を備え、
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とする外観検査装置。 A visual inspection apparatus for determining whether a printed circuit board is good or bad based on an image of the appearance of the printed circuit board obtained by an imaging device, comprising:
A feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Equipped with
The re-learning unit corrects an extraction condition of the feature extraction unit.
A visual inspection apparatus comprising:
前記撮像装置により得たプリント基板の外観の撮像画像に基づき、良品/不良品を判定する外観検査装置と、
前記外観検査装置で不良品と判定された前記プリント基板の外観の撮像画像について、良品/不良品を判定する請求項1ないし4の何れか一項に記載の情報処理装置と、
を備えることを特徴とするプリント基板製造システム。 an imaging device for capturing an image of the appearance of the printed circuit board;
an appearance inspection device for determining whether a printed circuit board is good or bad based on an image of the appearance of the printed circuit board obtained by the imaging device;
5. The information processing device according to claim 1 , further comprising: a display device that displays a display image of the printed circuit board that has been determined to be defective by the appearance inspection device, and determines whether the printed circuit board is non-defective or defective;
A printed circuit board manufacturing system comprising:
プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
として機能させ、
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とするプログラム。 Computer,
a feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Function as a
The re-learning unit corrects an extraction condition of the feature extraction unit.
A program characterized by:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020198006A JP7571504B2 (en) | 2020-11-30 | 2020-11-30 | Information processing device, visual inspection device, printed circuit board manufacturing system and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020198006A JP7571504B2 (en) | 2020-11-30 | 2020-11-30 | Information processing device, visual inspection device, printed circuit board manufacturing system and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022086149A JP2022086149A (en) | 2022-06-09 |
| JP7571504B2 true JP7571504B2 (en) | 2024-10-23 |
Family
ID=81894223
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020198006A Active JP7571504B2 (en) | 2020-11-30 | 2020-11-30 | Information processing device, visual inspection device, printed circuit board manufacturing system and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7571504B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7643102B2 (en) * | 2021-03-15 | 2025-03-11 | オムロン株式会社 | Quality evaluation equipment and inspection management system |
| JP2025006868A (en) * | 2023-06-30 | 2025-01-17 | Juki株式会社 | Component Mounting System |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006293820A (en) | 2005-04-13 | 2006-10-26 | Sharp Corp | Appearance inspection apparatus, appearance inspection method, and program for causing computer to function as appearance inspection apparatus |
| JP2010141209A (en) | 2008-12-12 | 2010-06-24 | Sony Corp | Substrate inspection device and substrate inspection method |
| JP2020140644A (en) | 2019-03-01 | 2020-09-03 | 株式会社日立製作所 | Learning device and learning method |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH08110216A (en) * | 1994-10-13 | 1996-04-30 | Hitachi Denshi Ltd | Object surface recognition processing device of appearance inspection device |
-
2020
- 2020-11-30 JP JP2020198006A patent/JP7571504B2/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006293820A (en) | 2005-04-13 | 2006-10-26 | Sharp Corp | Appearance inspection apparatus, appearance inspection method, and program for causing computer to function as appearance inspection apparatus |
| JP2010141209A (en) | 2008-12-12 | 2010-06-24 | Sony Corp | Substrate inspection device and substrate inspection method |
| JP2020140644A (en) | 2019-03-01 | 2020-09-03 | 株式会社日立製作所 | Learning device and learning method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022086149A (en) | 2022-06-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6922168B2 (en) | Surface mount line quality control system and its control method | |
| US7260244B2 (en) | Print inspection method and print inspection apparatus | |
| EP1254431B1 (en) | Method and system for detecting defects on a printed circuit board | |
| JP3870872B2 (en) | Inspection data creation method and substrate inspection apparatus using this method | |
| CN101014850B (en) | System and method for inspecting electrical circuits utilizing reflective and fluorescent imagery | |
| US7672501B2 (en) | Substrate inspection system including a visual inspection device for inspection by image processing | |
| JP2014526706A (en) | Non-contact type component inspection apparatus and component inspection method | |
| US20060291713A1 (en) | Board inspecting apparatus, its parameter setting method and parameter setting apparatus | |
| JP2005286309A (en) | Inspection method and inspection system for component mounting board, and manufacturing method of component mounting board | |
| JP7571504B2 (en) | Information processing device, visual inspection device, printed circuit board manufacturing system and program | |
| CN114022436A (en) | Detection method, device and detection equipment for printed circuit board | |
| KR20200006028A (en) | Printed circuit board inspecting apparatus, method for determining fault type of screen printer and computer readable recording medium | |
| CN102131351A (en) | Processing device or acf adhibition state checking method or substrate module assembly line | |
| JP4506395B2 (en) | Substrate inspection device, parameter setting method and parameter setting device | |
| JP2000009447A (en) | Tape carrier defect detection apparatus and defect detection method | |
| JP2006049347A (en) | Component edge detection method, component edge detection program, and inspection apparatus | |
| JP4263519B2 (en) | Inspection method of automatic component mounting equipment | |
| JP2008186879A (en) | Board inspection method | |
| JP4453503B2 (en) | Substrate inspection device, substrate inspection method, inspection logic generation device and inspection logic generation method for substrate inspection device | |
| JPS639602B2 (en) | ||
| JP4858227B2 (en) | Inspection parameter setting support device, control program and control method thereof | |
| JP4653340B2 (en) | Can appearance inspection device using a three-plate CCD camera | |
| JP5510398B2 (en) | Weld inspection equipment | |
| JP2004117276A (en) | Soldering quality determining method, device and system, and printed board manufacturing system and program | |
| JP5096940B2 (en) | Inspection method and apparatus for printed wiring board |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230913 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240610 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240618 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240819 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240910 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240923 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7571504 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |