Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7571504B2 - Information processing device, visual inspection device, printed circuit board manufacturing system and program - Google Patents
[go: Go Back, main page]

JP7571504B2 - Information processing device, visual inspection device, printed circuit board manufacturing system and program - Google Patents

Information processing device, visual inspection device, printed circuit board manufacturing system and program Download PDF

Info

Publication number
JP7571504B2
JP7571504B2 JP2020198006A JP2020198006A JP7571504B2 JP 7571504 B2 JP7571504 B2 JP 7571504B2 JP 2020198006 A JP2020198006 A JP 2020198006A JP 2020198006 A JP2020198006 A JP 2020198006A JP 7571504 B2 JP7571504 B2 JP 7571504B2
Authority
JP
Japan
Prior art keywords
unit
image
printed circuit
circuit board
good
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020198006A
Other languages
Japanese (ja)
Other versions
JP2022086149A (en
Inventor
智史 高木
義寛 村沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2020198006A priority Critical patent/JP7571504B2/en
Publication of JP2022086149A publication Critical patent/JP2022086149A/en
Application granted granted Critical
Publication of JP7571504B2 publication Critical patent/JP7571504B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報処理装置、外観検査装置、プリント基板製造システムおよびプログラムに関する。 The present invention relates to an information processing device, an appearance inspection device, a printed circuit board manufacturing system, and a program.

従来、多数の実装部品が実装されるプリント基板製造において、実装部品の実装品質を検査する外観検査システムが提案されている。このような外観検査システムによれば、実装部品の電極部とプリント基板上のランド部とのはんだ付けが適切に行われているかを判断するために、はんだ接合部の形状を正確に捉える必要がある。そこで、鏡面反射をもつはんだ接合部の形状を取得する方法として、3色の光源を異なる入射角度で照射し、その反射光を撮像することで形状を色情報として取得する方法が知られている。そして、従来の外観検査システムは、このように色情報として取得したはんだ接合部の形状に対して、特定の色の領域の面積や長さなどのパラメータを用いて、品質を判定するようにしている。 Conventionally, in the manufacture of printed circuit boards on which a large number of mounted components are mounted, visual inspection systems have been proposed to inspect the mounting quality of mounted components. With such visual inspection systems, it is necessary to accurately capture the shape of the solder joints in order to determine whether the electrodes of the mounted components and the lands on the printed circuit board have been soldered properly. As a method for acquiring the shape of a solder joint that has specular reflection, a method is known in which three color light sources are irradiated at different angles of incidence and the reflected light is captured to acquire the shape as color information. Then, conventional visual inspection systems use parameters such as the area and length of a specific color area to judge the quality of the shape of the solder joint acquired as color information in this way.

特許文献1には、判定ロジックのパラメータを自動生成する目的で、良品画像および不良品画像を用いて、それぞれの画像特徴量から良品/不良品を分離するための特徴量の閾値や検査領域および色範囲を用いてロジックのパラメータを設定する技術が開示されている。 Patent Document 1 discloses a technology that uses images of good and defective products to set logic parameters using feature thresholds, inspection areas, and color ranges to separate good and defective products from the image features of each product, with the aim of automatically generating parameters for a judgment logic.

しかしながら、従来の外観検査システムによれば、生産設備の経時変化や実装条件変更によってはんだ表面状態が変化することで撮像される画像の写りにばらつきが生じ、同じロジックを使った画像検査では経時で判定精度が低下するという問題がある。 However, with conventional visual inspection systems, the appearance of the captured images varies due to changes in the solder surface condition caused by changes in production equipment over time or changes in mounting conditions, and there is a problem in that the accuracy of judgment decreases over time when using image inspections using the same logic.

本発明は、上記に鑑みてなされたものであって、生産設備の経時変化や実装条件変更による画像検査の判定精度低下を抑制することを目的とする。 The present invention has been made in consideration of the above, and aims to suppress the deterioration of the judgment accuracy of image inspection caused by changes in production equipment over time or changes in mounting conditions.

上述した課題を解決し、目的を達成するために、本発明は、プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、経時での良品画像の画像特徴量の変化を検知する変化検知部と、前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、を備え、前記再学習部は、前記特徴抽出部の抽出条件を修正する、ことを特徴とする。 In order to solve the above-mentioned problems and achieve the object, the present invention comprises a feature extraction unit that uses machine learning to extract image features from a captured image of the appearance of a printed circuit board, a judgment unit that judges whether the product is good or bad based on the image features extracted by the feature extraction unit, a change detection unit that detects changes in the image features of good product images over time, and a re-learning unit that corrects the judgment conditions of the judgment unit based on the detection results of the change detection unit, using defective product images and good product images at the time when a change in the features has occurred , so that good products can be separated from defective products , and is characterized in that the re-learning unit corrects the extraction conditions of the feature extraction unit .

本発明によれば、生産設備の経時変化や実装条件変更による判定精度の低下を抑制することができるという効果を奏する。 The present invention has the advantage of being able to suppress deterioration in judgment accuracy due to changes in production equipment over time or changes in mounting conditions.

図1は、第1の実施の形態にかかるプリント基板製造システムの主要な装置を示す概略構成図である。FIG. 1 is a schematic diagram showing the main devices of a printed circuit board manufacturing system according to a first embodiment. 図2は、外観検査装置の概略構成図である。FIG. 2 is a schematic diagram of the appearance inspection device. 図3は、良否判断処理の前提となる画像撮像処理を説明する図である。FIG. 3 is a diagram for explaining the image capturing process that is the premise of the pass/fail determination process. 図4は、検査対象画像の一例を示す図である。FIG. 4 is a diagram showing an example of an inspection target image. 図5は、良否判断方法の流れの一例を示すフローチャートである。FIG. 5 is a flowchart showing an example of the flow of a quality determination method. 図6は、従来の外観検査を示す図である。FIG. 6 is a diagram showing a conventional visual inspection. 図7は、本実施形態の外観検査を示す図である。FIG. 7 is a diagram showing the appearance inspection of this embodiment. 図8は、情報処理装置のハードウェア構成を示すブロック図である。FIG. 8 is a block diagram showing a hardware configuration of the information processing device. 図9は、外観検査処理にかかる機能を示す機能ブロック図である。FIG. 9 is a functional block diagram showing functions related to the appearance inspection process. 図10は、位置ばらつきの除去の一例を示す図である。FIG. 10 is a diagram showing an example of removing positional variations. 図11は、電極部の反射光の映り込みの除去の一例を示す図である。FIG. 11 is a diagram showing an example of removing the glare of reflected light from an electrode portion. 図12は、変化検知部で用いる変化検知ロジック(散布図)の説明図である。FIG. 12 is an explanatory diagram of the change detection logic (scatter diagram) used in the change detection unit. 図13は、変化検知部で用いる変化検知ロジック(時間変化)の説明図である。FIG. 13 is an explanatory diagram of the change detection logic (change over time) used in the change detection unit. 図14は、情報処理装置の学習処理の流れを示すフローチャートである。FIG. 14 is a flowchart showing the flow of the learning process of the information processing device. 図15は、情報処理装置の学習処理の流れの変形例を示すフローチャートである。FIG. 15 is a flowchart showing a modified example of the flow of the learning process of the information processing device.

以下に添付図面を参照して、情報処理装置、外観検査装置、プリント基板製造システムおよびプログラムの実施の形態を詳細に説明する。以下においては、本発明を、プリント基板上に装着されたコンデンサチップ、ICなどの素子であるSMD(Surface Mount Device)のはんだ付けの良否を光学的に判定する外観検査装置を含むプリント基板製造システムに適用した実施形態について説明する。 The following describes in detail embodiments of an information processing device, an appearance inspection device, a printed circuit board manufacturing system, and a program with reference to the accompanying drawings. In the following, an embodiment is described in which the present invention is applied to a printed circuit board manufacturing system including an appearance inspection device that optically determines whether the soldering of SMDs (Surface Mount Devices), which are elements such as capacitor chips and ICs mounted on a printed circuit board, is good or bad.

(第1の実施の形態)
図1は、第1の実施の形態にかかるプリント基板製造システム100の主要な装置を示す概略構成図である。図1に示すように、プリント基板製造システム100は、はんだ印刷機20、素子マウンタ30、リフロー炉40及び外観検査装置50を備える。
(First embodiment)
1 is a schematic diagram showing the main devices of a printed circuit board manufacturing system 100 according to a first embodiment. As shown in FIG. 1, the printed circuit board manufacturing system 100 includes a solder printer 20, an element mounter 30, a reflow oven 40, and an appearance inspection device 50.

プリント基板製造システム100は、部品が実装されていない状態のプリント基板をはんだ印刷機20内に搬送する。はんだ印刷機20は、部品が実装されていない状態のプリント基板上の所定位置に、はんだを印刷する。このようにしてはんだが印刷されたプリント基板は、素子マウンタ30に搬送される。素子マウンタ30は、いわゆるチップマウンタ及びQFP(Quad Fiat Package)マウンタである。素子マウンタ30は、コンデンサやIC等のSMDである実装部品をプリント基板上に載置する。その後、コンデンサやIC等の実装部品が載置されたプリント基板は、リフロー炉40内に搬送される。リフロー炉40は、コンデンサやIC等の実装部品が載置されたプリント基板を加熱処理し、はんだ印刷機20によって印刷されたプリント基板上のはんだを溶解する。溶解したプリント基板上のはんだは、冷却されることで実装部品をプリント基板上に固定する。 The printed circuit board manufacturing system 100 transports a printed circuit board without components mounted thereon into the solder printer 20. The solder printer 20 prints solder at a predetermined position on the printed circuit board without components mounted thereon. The printed circuit board with the solder printed thereon is transported to the element mounter 30. The element mounter 30 is a so-called chip mounter and QFP (Quad Fiat Package) mounter. The element mounter 30 places SMD mounted components such as capacitors and ICs on the printed circuit board. The printed circuit board with the mounted components such as capacitors and ICs mounted thereon is then transported into the reflow furnace 40. The reflow furnace 40 heats the printed circuit board with the mounted components such as capacitors and ICs mounted thereon, and melts the solder on the printed circuit board printed by the solder printer 20. The melted solder on the printed circuit board is cooled to fix the mounted components on the printed circuit board.

以上のようにして実装部品が固定されて実装されたプリント基板は、その後、ベルトコンベア等の搬送手段によって、又はオペレータによる手作業によって、外観検査装置50内に搬入される。外観検査装置50は、後述する方法によってはんだ付けの良否を光学的に判定する、自動光学検査(Automated Optical Inspection;AOI)を実行する。そして、外観検査装置50で良品と判定されたプリント基板は、図示しない後段の処理工程に移送される。 The printed circuit board with the mounted components fixed in the above manner is then carried into the visual inspection device 50 by a transport means such as a belt conveyor, or manually by an operator. The visual inspection device 50 performs automated optical inspection (AOI), which optically judges whether the soldering is good or bad using a method described below. Then, the printed circuit board that is judged to be good by the visual inspection device 50 is transferred to a subsequent processing step (not shown).

後段の処理工程を実施する装置としては、例えば、プリント基板上に更に部品をマウントする部品マウンタや、プリント基板を包装する包装装置などが挙げられる。また、後段の処理工程を実施する装置は、例えば、外観検査装置50による良否判定の結果に応じて、良品と不良品を分別する分別装置であってもよい。なお、プリント基板製造システム100では、外観検査装置50による良否判定後に処理工程を実施する装置が設置されているが、この装置は必ずしも必要であるわけではない。 Examples of devices that perform subsequent processing steps include a component mounter that mounts further components on the printed circuit board, and a packaging device that packages the printed circuit board. The device that performs subsequent processing steps may also be, for example, a sorting device that separates non-defective products from defective products based on the result of the pass/fail judgment by the visual inspection device 50. Note that, although the printed circuit board manufacturing system 100 is provided with a device that performs processing steps after the pass/fail judgment by the visual inspection device 50, this device is not necessarily required.

また、本実施形態では、外観検査装置50に、情報処理装置である修正端末60が接続されている。修正端末60は、その内部に、外観検査装置50から出力される判定結果データを書き込み及びその書き込まれたデータを読み出すデータ入出力手段を備えている。 In addition, in this embodiment, a correction terminal 60, which is an information processing device, is connected to the appearance inspection device 50. The correction terminal 60 has a data input/output means therein for writing the judgment result data output from the appearance inspection device 50 and reading the written data.

修正端末60は、外観検査装置50による良否判定結果が正しいか否かをオペレータが目視で再検査し、検査結果に誤りがあったときに検査結果データを修正するためのものである。本実施形態では、プリント基板上の個別のバーコードが形成されており、そのバーコード情報をバーコード自動読取装置で読み取る。このバーコード自動読取装置で読み取ったバーコード情報及び外観検査装置50の判定結果データは、シリアル通信ケーブルを通して修正端末60に送信され、保存される。 The correction terminal 60 allows an operator to visually re-inspect whether the pass/fail judgment results from the visual inspection device 50 are correct, and to correct the inspection result data if an error is found in the inspection results. In this embodiment, individual barcodes are formed on the printed circuit board, and the barcode information is read by an automatic barcode reader. The barcode information read by the automatic barcode reader and the judgment result data from the visual inspection device 50 are sent to the correction terminal 60 via a serial communication cable and stored.

詳細は後述するが、修正端末60は、外観検査装置50で不良品と判定された画像に対して、画像検査アルゴリズムを導入して良品/不良品の判定を実施し、目視検査工数を削減する。したがって、修正端末60は、保存された判定結果データについて、良品/不良品の判定をさらに実施した後、表示手段であるディスプレイ60aに不良と判定した判定結果を映し出す。そして、オペレータは、不良と判定された判定結果がディスプレイ60aに映し出されたら、実際のプリント基板を目視で確認し、本当に不良品であるかを確認する。その結果、不良品でないと判断したら、オペレータは、修正端末60の図示しないキーボード等のデータ修正入力手段によって修正入力を行う。 As will be described in detail later, the repair terminal 60 applies an image inspection algorithm to images judged to be defective by the visual inspection device 50 to judge whether they are good or bad, thereby reducing the man-hours required for visual inspection. Therefore, the repair terminal 60 further judges whether the stored judgment result data is good or bad, and then displays the judgment result that it is judged to be bad on the display 60a, which is a display means. Then, when the judgment result that it is judged to be bad is displayed on the display 60a, the operator visually checks the actual printed circuit board to confirm whether it is really a defective product. If it is judged not to be a defective product as a result, the operator inputs corrections using a data correction input means such as a keyboard (not shown) of the repair terminal 60.

なお、本実施形態の修正端末60は、外観検査装置50に接続されたスタンドアローン型のコンピュータで構成されているが、外観検査装置50に対してLAN等のネットワークで接続したものであってもよい。また、本実施形態の修正端末60は、外観検査装置50に一体的に備えられるものであってもよい。 The repair terminal 60 of this embodiment is configured as a stand-alone computer connected to the visual inspection device 50, but it may also be connected to the visual inspection device 50 via a network such as a LAN. Also, the repair terminal 60 of this embodiment may be provided integrally with the visual inspection device 50.

次に、外観検査装置50について説明する。 Next, we will explain the appearance inspection device 50.

図2は、外観検査装置50の概略構成図である。図2に示すように、外観検査装置50は、SMDを装着したプリント基板であるPCB4に光を照射する3つの光源1R,1G,1Bそれぞれの円環状の光源を備えている。よって、外観検査装置50では、合計6つの光源を備えている。なお、各光源1R,1G,1Bには、カラーフィルタを張り付けたインバータ制御のリング状の蛍光灯や、各色の光を発する発光ダイオード(LED)などを利用することができる。 Figure 2 is a schematic diagram of the visual inspection device 50. As shown in Figure 2, the visual inspection device 50 is equipped with three circular light sources 1R, 1G, and 1B that irradiate light onto a PCB 4, which is a printed circuit board on which SMDs are mounted. Therefore, the visual inspection device 50 is equipped with a total of six light sources. Each of the light sources 1R, 1G, and 1B can be an inverter-controlled ring-shaped fluorescent lamp with a color filter attached, or a light-emitting diode (LED) that emits light of each color.

また、外観検査装置50は、これらの光源1R,1G,1Bから照射された光を受光して撮像する撮像装置としての高速カメラ2を備えている。高速カメラ2は、10万分の1秒程度の高速シャッタで撮像可能なものである。高速カメラ2は、例えばCCDなどの撮像素子で構成されたものを用いることができる。本実施形態では、高速カメラ2として、分解能が13μm、15μm、20μm、25μm、30μm、35μm、50μm、70μmの間で変更可能なCCDカメラを使用する。高速カメラ2は、図2に示すように、検査領域の真上に配置される。 The appearance inspection device 50 also includes a high-speed camera 2 as an imaging device that receives light irradiated from these light sources 1R, 1G, and 1B and captures images. The high-speed camera 2 is capable of capturing images with a high-speed shutter of about 1/100,000th of a second. The high-speed camera 2 may be configured with an imaging element such as a CCD. In this embodiment, a CCD camera with a resolution that can be changed between 13 μm, 15 μm, 20 μm, 25 μm, 30 μm, 35 μm, 50 μm, and 70 μm is used as the high-speed camera 2. The high-speed camera 2 is positioned directly above the inspection area as shown in FIG. 2.

外観検査装置50は、高速カメラ2に対して相対移動するように載置台に載置したPCB4を水平方向に2次元的に移動させる駆動手段としてのXYステージ3、制御手段としての制御部10なども備えている。XYステージ3は、PCB4を水平に支持している。 The visual inspection device 50 also includes an XY stage 3 as a driving means for two-dimensionally moving the PCB 4 placed on the mounting table in the horizontal direction so as to move relative to the high-speed camera 2, and a control unit 10 as a control means. The XY stage 3 supports the PCB 4 horizontally.

制御部10は、CPU(Central Processing Unit)、記憶部、インターフェース部などを備える。制御部10は、高速カメラ2のシャッタを制御したり、ステージ駆動部3aを介してXYステージ3を駆動制御したり、良否判断処理を行ったりする。 The control unit 10 includes a CPU (Central Processing Unit), a memory unit, an interface unit, etc. The control unit 10 controls the shutter of the high-speed camera 2, drives and controls the XY stage 3 via the stage drive unit 3a, and performs pass/fail judgment processing.

次に、良否判断処理の前提となる画像撮像処理について説明する。 Next, we will explain the image capture process that is the premise for the pass/fail judgment process.

図3は、良否判断処理の前提となる画像撮像処理を説明する図である。図3に示す図は、SMDの一例であるコンデンサ5の電極5aをPCB4上のパッド4aに接続するはんだ接合部であるはんだフィレット6に光を照射した様子を示す図である。図3に示すように、光源1Rは、鉛直方向に対して一番小さな照射角度で光(赤色光R)を照射する赤色光源である。光源1Bは、一番大きな照射角度で光(青色光B)を照射する青色光源である。光源1Gは、光源1Rと光源1Bとの中間の照射角度で光(緑色光G)を照射する緑色光源である。 Figure 3 is a diagram explaining the image capture process that is the premise of the pass/fail judgment process. The diagram shown in Figure 3 is a diagram showing the state in which light is irradiated onto a solder fillet 6, which is a solder joint that connects an electrode 5a of a capacitor 5, which is an example of an SMD, to a pad 4a on a PCB 4. As shown in Figure 3, light source 1R is a red light source that irradiates light (red light R) at the smallest irradiation angle with respect to the vertical direction. Light source 1B is a blue light source that irradiates light (blue light B) at the largest irradiation angle. Light source 1G is a green light source that irradiates light (green light G) at an irradiation angle intermediate between light source 1R and light source 1B.

図3に示すように、高速カメラ2は、光源1R、1G、1Bからの赤色光R、緑色光G、青色光Bが照射されたPCB4を撮像する。この場合、高速カメラ2は、R、G、Bの3色に色分けされた検査対象画像を撮像する。この3色の色分布により、はんだ付け状態、すなわちはんだフィレット6の外形を観察することができる。 As shown in FIG. 3, the high-speed camera 2 captures an image of the PCB 4 illuminated with red light R, green light G, and blue light B from light sources 1R, 1G, and 1B. In this case, the high-speed camera 2 captures an image of the inspection object that is color-coded into three colors: R, G, and B. The color distribution of these three colors makes it possible to observe the soldering state, i.e., the outer shape of the solder fillet 6.

高速カメラ2の撮像領域(検査領域)は、PCB4に比べて狭い。そのため、高速カメラ2によってPCB4を撮像する際には、XYステージ3上のPCB4は、水平方向に滑らかに連続して移動する。具体的には、高速カメラ2は、撮像領域内に収まる1又は2以上のSMDごとに、順次、PCB4を撮像する。こうすることにより、各SMDの一例であるコンデンサ5の電極5aに対するはんだフィレット6の外形を把握することができる。 The imaging area (inspection area) of the high-speed camera 2 is narrower than the PCB 4. Therefore, when the PCB 4 is imaged by the high-speed camera 2, the PCB 4 on the XY stage 3 moves smoothly and continuously in the horizontal direction. Specifically, the high-speed camera 2 sequentially images the PCB 4 for one or more SMDs that fit within the imaging area. In this way, it is possible to grasp the outer shape of the solder fillet 6 for the electrode 5a of the capacitor 5, which is an example of each SMD.

ここで、図4は検査対象画像の一例を示す図である。図4に示すように、検査対象画像は、上記のように、はんだ接合部であるはんだフィレット6の外形を色分布として観察できるように撮像した画像を用いる。 Here, FIG. 4 shows an example of an image to be inspected. As shown in FIG. 4, the image to be inspected is an image captured so that the outer shape of the solder fillet 6, which is the solder joint, can be observed as a color distribution, as described above.

次に、外観検査装置50の制御部10における良否判断処理について説明する。 Next, we will explain the pass/fail judgment process in the control unit 10 of the visual inspection device 50.

図5は、良否判断方法の流れの一例を示すフローチャートである。図5に示すように、外観検査装置50の制御部10は、まず、XYテーブル3を駆動制御して、高速カメラ2の撮像領域内にPCB4上のコンデンサ5を移動させる(ステップS1)。 Figure 5 is a flow chart showing an example of the flow of a quality determination method. As shown in Figure 5, the control unit 10 of the visual inspection device 50 first controls the drive of the XY table 3 to move the capacitor 5 on the PCB 4 into the imaging area of the high-speed camera 2 (step S1).

次に、制御部10は、光源1R、1G、1BからPCB4に対して照射される各色の光の反射光を高速カメラ2によって撮像する(ステップS2)。これにより、その撮像データに基づいて、図4に示したような画像を得ることができる。このとき、パッド4aに対して正常にはんだフィレット6が形成されていれば、図4に示したように、そのはんだフィレット6の領域(位置、大きさ)は青色で示されることになる。正常にはんだフィレット6が形成されていれば、図4に示したように、はんだフィレット6では青色の色相の領域が大きくなる。これに対し、不良品のはんだフィレット6では青色以外の色相の領域が大きくなる。 Next, the control unit 10 uses the high-speed camera 2 to capture the reflected light of each color of light irradiated from the light sources 1R, 1G, and 1B onto the PCB 4 (step S2). This makes it possible to obtain an image like that shown in FIG. 4 based on the captured image data. At this time, if the solder fillet 6 is formed properly on the pad 4a, the area (position, size) of the solder fillet 6 will be shown in blue, as shown in FIG. 4. If the solder fillet 6 is formed properly, the area of the blue hue will be large in the solder fillet 6, as shown in FIG. 4. In contrast, the area of hues other than blue will be large in the solder fillet 6 of a defective product.

次に、制御部10は、高速カメラ2によって撮像した撮像データから、単一のコンデンサ5の電極5aの両側に存在する青色領域の画素数の和Sを算出する(ステップS3)。そして、制御部10は、算出した画素数の和Sが所定画素数(例えば、8画素)よりも大きいか否かを判断する(ステップS4)。この判断の結果、制御部10は、和Sが8画素よりも大きい場合には、そのコンデンサ5は良品であると判定し(ステップS5)、和Slが8画素以下である場合には、そのコンデンサ5は不良品であると判定する(ステップS6)。これにより、コンデンサ5ごとに、はんだ付けの良否を判定することができる。 Next, the control unit 10 calculates the sum S1 of the number of pixels in the blue region present on both sides of the electrode 5a of a single capacitor 5 from the image data captured by the high-speed camera 2 (step S3 ) . The control unit 10 then judges whether the calculated sum S1 of the number of pixels is greater than a predetermined number of pixels (e.g., 8 pixels) (step S4). If the sum S1 is greater than 8 pixels, the control unit 10 judges that the capacitor 5 is a good product (step S5), and if the sum S1 is 8 pixels or less, the control unit 10 judges that the capacitor 5 is a defective product (step S6). This makes it possible to judge the quality of the soldering for each capacitor 5.

ところで、外観検査装置50における検査対象画像の検査においては、上述のように、検査対象画像の色特徴に対してルールベースの検査を実施している。しかしながら、検査対象画像のような生産系データの場合、経時で生産条件がわずかに変わることで、取得できるデータの傾向も変化するため、一度決めた判定基準で継続的に検査できない。そのため、外観検査装置50で良品を不良品と判定する虚報(過検出)が多くなる。図6は、従来の外観検査を示す図である。図6に示すように、従来においては、外観検査装置50と目視検査との2段階で検査を実施する。そのため、外観検査装置50で良品を不良品と判定する虚報(過検出)が多くなると、目視検査に工数がかかってしまう、という問題がある。 In the inspection of the inspection target image in the appearance inspection device 50, as described above, a rule-based inspection is performed on the color features of the inspection target image. However, in the case of production data such as the inspection target image, slight changes in production conditions over time cause the tendency of the acquired data to change, so it is not possible to continuously inspect using a once-determined judgment criterion. As a result, there are many false reports (overdetections) in which the appearance inspection device 50 judges a good product to be defective. Figure 6 is a diagram showing a conventional appearance inspection. As shown in Figure 6, conventionally, inspection is performed in two stages, the appearance inspection device 50 and visual inspection. Therefore, if there are many false reports (overdetections) in which the appearance inspection device 50 judges a good product to be defective, there is a problem that the visual inspection requires a lot of man-hours.

図7は、本実施形態の外観検査を示す図である。図7に示すように、本実施形態の修正端末60においては、詳細は後述するが、外観検査装置50で不良品と判定された画像に対して、画像検査アルゴリズムを導入して良品/不良品の判定を実施し、目視検査工数を削減するようにしたものである。画像検査アルゴリズムは、運用の中で、データを蓄積して追加学習しながら検査対象画像の検査を行う追加学習型画像検査アルゴリズムであり、機械学習を用いる。画像検査アルゴリズムによれば、判定結果を利用し、事前構築した判定器の精度を向上させることができる。 Figure 7 is a diagram showing the visual inspection of this embodiment. As shown in Figure 7, in the repair terminal 60 of this embodiment, the details will be described later, an image inspection algorithm is introduced to images judged as defective by the visual inspection device 50 to judge whether they are good or bad, thereby reducing the man-hours for visual inspection. The image inspection algorithm is an incremental learning type image inspection algorithm that accumulates data during operation and performs incremental learning while inspecting the image to be inspected, and uses machine learning. According to the image inspection algorithm, the judgment results can be used to improve the accuracy of a pre-constructed judger.

ここで、図8は修正端末60のハードウェア構成を示すブロック図である。図8に示すように、修正端末60は、コンピュータによって構築されている。図8に示されているように、修正端末60は、CPU601、ROM602、RAM603、HD604、HDD(Hard Disk Drive)コントローラ605、ディスプレイ606、外部機器接続I/F(Interface)608、ネットワークI/F609、データバス610、キーボード611、ポインティングデバイス612、DVD-RW(Digital Versatile Disc Rewritable)ドライブ614、メディアI/F616を備えている。 Here, FIG. 8 is a block diagram showing the hardware configuration of the editing terminal 60. As shown in FIG. 8, the editing terminal 60 is constructed by a computer. As shown in FIG. 8, the editing terminal 60 is equipped with a CPU 601, a ROM 602, a RAM 603, a HD 604, a HDD (Hard Disk Drive) controller 605, a display 606, an external device connection I/F (Interface) 608, a network I/F 609, a data bus 610, a keyboard 611, a pointing device 612, a DVD-RW (Digital Versatile Disc Rewritable) drive 614, and a media I/F 616.

これらのうち、CPU601は、修正端末60全体の動作を制御する。ROM602は、IPL等のCPU601の駆動に用いられるプログラムを記憶する。RAM603は、CPU601のワークエリアとして使用される。HD604は、プログラム等の各種データを記憶する。HDDコントローラ605は、CPU601の制御にしたがってHD604に対する各種データの読み出し又は書き込みを制御する。ディスプレイ606は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F608は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、外観検査装置50、USB(Universal Serial Bus)メモリやプリンタ等である。外部機器接続I/F608は、受信部61および出力部62(図9参照)として機能する。ネットワークI/F609は、通信ネットワークを利用してデータ通信をするためのインターフェースである。バスライン610は、図8に示されているCPU601等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。 Of these, the CPU 601 controls the operation of the entire editing terminal 60. The ROM 602 stores programs used to drive the CPU 601, such as IPL. The RAM 603 is used as a work area for the CPU 601. The HD 604 stores various data such as programs. The HDD controller 605 controls the reading or writing of various data from the HD 604 according to the control of the CPU 601. The display 606 displays various information such as a cursor, a menu, a window, characters, or an image. The external device connection I/F 608 is an interface for connecting various external devices. In this case, the external device is, for example, an appearance inspection device 50, a USB (Universal Serial Bus) memory, a printer, etc. The external device connection I/F 608 functions as a receiving unit 61 and an output unit 62 (see FIG. 9). The network I/F 609 is an interface for data communication using a communication network. The bus line 610 is an address bus, a data bus, etc., for electrically connecting each component such as the CPU 601 shown in FIG. 8.

また、キーボード611は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス612は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ614は、着脱可能な記録媒体の一例としてのDVD-RW613に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWに限らず、DVD-R等であってもよい。メディアI/F616は、フラッシュメモリ等の記録メディア615に対するデータの読み出し又は書き込み(記憶)を制御する。 The keyboard 611 is a type of input means equipped with multiple keys for inputting characters, numbers, various instructions, etc. The pointing device 612 is a type of input means for selecting and executing various instructions, selecting a processing target, moving the cursor, etc. The DVD-RW drive 614 controls the reading and writing of various data from a DVD-RW 613, which is an example of a removable recording medium. Note that this is not limited to a DVD-RW, and may be a DVD-R, etc. The media I/F 616 controls the reading and writing (storing) of data from a recording medium 615, such as a flash memory.

本実施形態の修正端末60で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disc)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。 The program executed by the editing terminal 60 of this embodiment is provided as a file in an installable or executable format recorded on a computer-readable recording medium such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disc).

また、本実施形態の修正端末60で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の修正端末60で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。また、本実施形態の修正端末60で実行されるプログラムを、ROM等に予め組み込んで提供するように構成してもよい。 The program executed by the editing terminal 60 of this embodiment may be stored on a computer connected to a network such as the Internet and provided by downloading it via the network. The program executed by the editing terminal 60 of this embodiment may be provided or distributed via a network such as the Internet. The program executed by the editing terminal 60 of this embodiment may be provided by being pre-installed in a ROM or the like.

次に、外観検査処理にかかる機能について説明する。 Next, we will explain the functions related to visual inspection processing.

図9は、外観検査処理にかかる機能を示す機能ブロック図である。図9に示すように、修正端末60は、受信部61、前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67、出力部62を備える。受信部61および出力部62は、上述したように、外部機器接続I/F608である。また、本実施の形態の修正端末60で実行されるプログラムは、各部(前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、前処理部63、特徴抽出部64、判定部65、変化検知部66、再学習部67が主記憶装置上に生成されるようになっている。 Figure 9 is a functional block diagram showing the functions related to the appearance inspection process. As shown in Figure 9, the editing terminal 60 includes a receiving unit 61, a preprocessing unit 63, a feature extraction unit 64, a judgment unit 65, a change detection unit 66, a re-learning unit 67, and an output unit 62. As described above, the receiving unit 61 and the output unit 62 are the external device connection I/F 608. In addition, the program executed by the editing terminal 60 of this embodiment has a modular configuration including each unit (preprocessing unit 63, feature extraction unit 64, judgment unit 65, change detection unit 66, re-learning unit 67), and as actual hardware, the CPU (processor) reads and executes the program from the storage medium, loading each unit onto the main storage device, and the preprocessing unit 63, feature extraction unit 64, judgment unit 65, change detection unit 66, and re-learning unit 67 are generated on the main storage device.

受信部61は、外観検査装置50において不良と判定された画像、すなわち高速カメラ2にて撮像されたプリント基板の外観情報を外観検査装置50から受信する。 The receiving unit 61 receives from the visual inspection device 50 images that have been determined to be defective by the visual inspection device 50, i.e., visual information of the printed circuit board captured by the high-speed camera 2.

前処理部63は、受信部61で受信した画像に対し、検査内容によって適した前処理を実行する。具体的には、前処理部63は、指定色の抽出(例えば、Bのみなど)を行い、画像から判定に必要な領域のみを抽出する抽出処理を実行する。 The preprocessing unit 63 performs preprocessing appropriate to the inspection content on the image received by the receiving unit 61. Specifically, the preprocessing unit 63 performs extraction processing to extract a specified color (e.g., only B) and extract only the area required for judgment from the image.

また、前処理部63は、ルールベースの画像処理に基づき、はんだ接合部の品質検査においてノイズとなる情報を除去する処理を実行するノイズ除去部として機能する。品質検査においてノイズとなる情報としては、位置ばらつき、電極部の反射光の映り込み、などが挙げられる。 The pre-processing unit 63 also functions as a noise removal unit that performs processing to remove information that becomes noise in the quality inspection of solder joints based on rule-based image processing. Examples of information that becomes noise in the quality inspection include positional variation and glare from the electrode part.

図10は、位置ばらつきの除去の一例を示す図である。図10に示すように、位置ばらつきの除去は、検出ズレを考慮してはんだ接合部を検出する。 Figure 10 shows an example of removing positional variation. As shown in Figure 10, removing positional variation involves detecting solder joints while taking into account detection deviations.

図11は、電極部の反射光の映り込みの除去の一例を示す図である。図11に示すように、電極部の反射光の映り込みの除去は、元画像に対してマスキングを施して、不良箇所の近傍をトリミングすることで、はんだ接合部を検出する。 Figure 11 is a diagram showing an example of removing the glare of reflected light from the electrode part. As shown in Figure 11, the glare of reflected light from the electrode part is removed by masking the original image and trimming the vicinity of the defective part to detect the solder joint.

特徴抽出部64は、機械学習を用いて画像特徴量の抽出を行う。 The feature extraction unit 64 uses machine learning to extract image features.

判定部65は、特徴抽出部64で抽出した画像特徴量を、良品/不良品を示す指標値に変換する。そして、判定部65は、良品/不良品を示す指標値に基づき、閾値により良品/不良品を判定する。 The determination unit 65 converts the image feature amount extracted by the feature extraction unit 64 into an index value indicating whether the product is good or bad. The determination unit 65 then determines whether the product is good or bad based on the index value indicating whether the product is good or bad using a threshold value.

出力部62は、判定部65における判定結果を出力する。 The output unit 62 outputs the judgment result from the judgment unit 65.

変化検知部66は、特徴抽出部64あるいは判定部65の出力を用いて、良品画像の特徴量の変化を検知する。以下において、変化検知部66で用いる変化検知ロジックについて説明する。 The change detection unit 66 detects changes in the features of the non-defective images using the output of the feature extraction unit 64 or the determination unit 65. The change detection logic used by the change detection unit 66 is explained below.

ここで、図12は変化検知部66で用いる変化検知ロジック(散布図)の説明図である。図12は、画像特徴量の分布に基づいた画像特徴量の変動検知方法を示している。変化検知部66は、取得済みの良品画像の画像特徴量の分布9aに対して、特徴抽出部64および判定部65から出力されたロット変更等の製造条件変更後や所定の生産数または経過期間後の良品画像の画像特徴量の分布10aを比較する。なお、図12において、符号9bまたは10bは、画像1枚の画像特徴量を示している。変化検知部66は、各画像特徴量群の平均や分散などの統計量を用いて、比較を行う。 Here, FIG. 12 is an explanatory diagram of the change detection logic (scatter plot) used by the change detection unit 66. FIG. 12 shows a method for detecting fluctuations in image features based on the distribution of image features. The change detection unit 66 compares the distribution 10a of image features of good-quality images after a change in manufacturing conditions such as a lot change, or after a specified production volume or elapsed period, output from the feature extraction unit 64 and the judgment unit 65, with the distribution 9a of image features of the acquired good-quality images. In FIG. 12, the reference numerals 9b and 10b indicate the image features of one image. The change detection unit 66 performs the comparison using statistics such as the average and variance of each group of image features.

なお、図12では2次元の画像特徴量空間を示しているが、変化検知部66は、より高次または低次の画像特徴量空間で評価してもよい。また、変化検知部66は、画像特徴量ではなく、判定部65で用いる良品/不良品を示す指標値を用いて変化検知を実施してもよい。 Note that while FIG. 12 shows a two-dimensional image feature space, the change detection unit 66 may perform evaluation in a higher- or lower-dimensional image feature space. In addition, the change detection unit 66 may perform change detection using index values indicating pass/fail used by the judgment unit 65, rather than image features.

ここで、図13は変化検知部66で用いる変化検知ロジック(時間変化)の説明図である。図13は、画像特徴量の時系列変化に基づいた画像特徴量の変動検知方法を示すものである。図13は、良品画像の画像特徴量の分布を時系列データとして表現している。変化検知部66は、取得済みの良品画像の画像特徴量の分布9cに対する、特徴抽出部64および判定部65から出力されたロット変更等の製造条件変更後や所定の生産数または経過期間後の良品画像の画像特徴量の分布10cの変化を、時系列データの異常検知手法を用いて実施する。すなわち、変化検知部66は、ロット変更等の製造条件変更後や所定数の生産または所定期間後のデータ間を比較することで、画像の変化の有無を調べる。なお、図13においては、時系列での画像特徴量の変化を示したが、これに限るものではなく、生産数の変化に応じた画像特徴量の変化であってもよい。 Here, FIG. 13 is an explanatory diagram of the change detection logic (time change) used by the change detection unit 66. FIG. 13 shows a method for detecting variations in image features based on time-series changes in image features. FIG. 13 expresses the distribution of image features of non-defective images as time-series data. The change detection unit 66 uses a time-series data anomaly detection method to detect changes in the distribution 10c of image features of non-defective images after a change in manufacturing conditions such as a change in lot, or after a specified number of productions or after a certain period of time, relative to the distribution 9c of image features of acquired non-defective images. That is, the change detection unit 66 checks for the presence or absence of changes in the image by comparing data after a change in manufacturing conditions such as a change in lot, or after a specified number of productions or after a specified period of time. Note that, although FIG. 13 shows changes in image features in a time series, the present invention is not limited to this, and may be changes in image features according to changes in the number of productions.

変化検知部66は、変化を検知した場合、特徴抽出部64および判定部65のロジックを修正する。変化検知部66は、不良品画像および変動発生時の良品画像を用いて、良品/不良品が最も分離できるように特徴抽出部64の抽出条件および判定部65の判定条件を修正する。 When the change detection unit 66 detects a change, it modifies the logic of the feature extraction unit 64 and the judgment unit 65. Using the defective product image and the good product image at the time of the change occurrence, the change detection unit 66 modifies the extraction conditions of the feature extraction unit 64 and the judgment conditions of the judgment unit 65 so that good products and bad products can be best separated.

再学習部67は、変化検知部66での検知結果により、特徴抽出部64の抽出条件および判定部65の判定条件の再学習を行う。再学習部67は、再学習結果を特徴抽出部64および判定部65に送り、ロジックを修正する。なお、変化検知部66および再学習部67は、変化を検知した場合、判定部65のみのロジックを修正するようにしてもよい。 The re-learning unit 67 re-learns the extraction conditions of the feature extraction unit 64 and the judgment conditions of the judgment unit 65 based on the detection results of the change detection unit 66. The re-learning unit 67 sends the re-learning results to the feature extraction unit 64 and the judgment unit 65 and corrects the logic. Note that when the change detection unit 66 and the re-learning unit 67 detect a change, they may correct the logic of only the judgment unit 65.

次に、修正端末60の学習処理について説明する。 Next, we will explain the learning process of the editing terminal 60.

ここで、図14は修正端末60の学習処理の流れを示すフローチャートである。図14に示すように、特徴抽出部64は、前回学習後から所定の生産数または所定の期間経過したと判定すると、変化検知の実施要と判定し(ステップS11のYes)、ステップS12に進む。 Here, FIG. 14 is a flowchart showing the flow of the learning process of the editing terminal 60. As shown in FIG. 14, when the feature extraction unit 64 determines that a predetermined production volume or a predetermined period of time has elapsed since the previous learning, it determines that change detection needs to be performed (Yes in step S11) and proceeds to step S12.

特徴抽出部64は、学習済み画像の画像特徴量の抽出を行う(ステップS12)。更に、特徴抽出部64は、所定生産数または所定期間後の画像の画像特徴量の抽出を行う(ステップS13)。 The feature extraction unit 64 extracts image features of the trained image (step S12). Furthermore, the feature extraction unit 64 extracts image features of the image after a specified production run or a specified period of time (step S13).

続いて、変化検知部66は、ステップS12およびS13でそれぞれ抽出した画像特徴量から図12または図13に示した変化検知ロジックにて変化量を抽出し(ステップS14)、閾値判定を行う(ステップS15)。 Next, the change detection unit 66 extracts the amount of change from the image features extracted in steps S12 and S13, respectively, using the change detection logic shown in FIG. 12 or FIG. 13 (step S14), and performs a threshold determination (step S15).

変化検知部66において変化量が閾値以上であるとして、変化が認められた場合(ステップS15のYes)、再学習部67は、変化後の画像を用いて、特徴抽出部64の抽出条件を更新し(ステップS16)、判定部65の判定条件を更新することで(ステップS17)、再学習する。 If the change detection unit 66 detects that the amount of change is equal to or greater than the threshold and a change is detected (Yes in step S15), the re-learning unit 67 uses the image after the change to update the extraction conditions of the feature extraction unit 64 (step S16) and update the judgment conditions of the judgment unit 65 (step S17), thereby re-learning.

一方、変化検知部66において変化量が閾値以上でなく、変化が認められなかった場合(ステップS15のNo)、再学習部67は、そのまま処理を終了する。 On the other hand, if the amount of change is not greater than the threshold value and no change is detected by the change detection unit 66 (No in step S15), the re-learning unit 67 ends the process.

このように本実施形態によれば、経時での良品画像の画像特徴量を分析し、画像特徴量の変化を検知したとき、変化後の良品画像の画像特徴量を再学習し、良品/不良品を分離できるようにロジックを修正するので、生産設備の経時変化や実装条件変更によるロジックの判定精度の低下を抑制することができ、安定した画像検査を実施することができる。 As described above, according to this embodiment, the image features of good product images are analyzed over time, and when a change in the image features is detected, the image features of the good product images after the change are re-learned, and the logic is modified to enable separation of good products from defective products. This makes it possible to suppress deterioration in the accuracy of logic judgment due to changes in production equipment over time or changes in mounting conditions, and enables stable image inspection to be performed.

なお、判定部65は、受信部61で受信した画像と、当該判定部65における判定結果と、検査員の目視による良品/不良品の判定結果とを、機械学習にて分類付けするようにしてもよい。このようにすることで、検査員の判定結果に近い検査を実現することができる。すなわち、検査員の目視判定を初期のみの実行とし、精度向上が図られた後は、検査員による目視判定の工程をカットすることができるようになる。 The judgment unit 65 may classify the image received by the receiving unit 61, the judgment result of the judgment unit 65, and the judgment result of an inspector's visual inspection as good or bad using machine learning. In this way, an inspection close to the judgment result of an inspector can be realized. In other words, the inspector's visual judgment is performed only in the initial stage, and after accuracy has been improved, the process of visual judgment by the inspector can be eliminated.

なお、本実施形態においては、再学習部67は、変化検知部66において変化量が閾値以上であって、変化が認められた場合に(ステップS15のYes)、再学習するようにしたが、これに限るものではない。 In this embodiment, the re-learning unit 67 re-learns when the amount of change in the change detection unit 66 is equal to or greater than the threshold and a change is recognized (Yes in step S15), but this is not limited to the above.

ここで、図15は、修正端末60の学習処理の流れの変形例を示すフローチャートである。図15に示すように、再学習部67は、外観検査の誤判定数または誤判定率が閾値以上である場合に(ステップS21のYes)、変化後の画像を用いて、特徴抽出部64の抽出条件を修正し(ステップS22)、判定部65の判定条件を修正することで(ステップS23)、再学習するようにしてもよい。誤判定率の閾値としては、例えば、10~20%である。 Here, FIG. 15 is a flowchart showing a modified example of the flow of the learning process of the editing terminal 60. As shown in FIG. 15, when the number of erroneous judgments or the erroneous judgment rate of the visual inspection is equal to or greater than a threshold (Yes in step S21), the re-learning unit 67 may re-learn by correcting the extraction conditions of the feature extraction unit 64 (step S22) and correcting the judgment conditions of the judgment unit 65 (step S23) using the changed image. The threshold for the erroneous judgment rate is, for example, 10 to 20%.

なお、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり、コンピュータが、データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し、新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。 Machine learning is a technology that allows computers to acquire human-like learning capabilities, in which the computer autonomously generates algorithms necessary for judgments such as data identification from training data that is previously loaded, and applies these to new data to make predictions. The learning method for machine learning may be any of supervised learning, unsupervised learning, semi-supervised learning, reinforcement learning, and deep learning, or may be a combination of these learning methods; any learning method for machine learning is acceptable.

2 撮像装置
4 プリント基板
50 外観検査装置
60 情報処理装置
63 ノイズ除去部
64 特徴抽出部
65 判定部
66 変化検知部
67 再学習部
100 プリント基板製造システム
Reference Signs List 2: Imaging device 4: Printed circuit board 50: Appearance inspection device 60: Information processing device 63: Noise removal section 64: Feature extraction section 65: Determination section 66: Change detection section 67: Re-learning section 100: Printed circuit board manufacturing system

特許第4492356号公報Patent No. 4492356

Claims (8)

プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
を備え
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とする情報処理装置。
a feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Equipped with
The re-learning unit corrects an extraction condition of the feature extraction unit.
23. An information processing apparatus comprising:
前記再学習部は、外観検査の誤判定数または誤判定率に基づいて、前記判定部の判定条件を修正する、
ことを特徴とする請求項1に記載の情報処理装置。
The re-learning unit corrects the judgment conditions of the judgment unit based on the number of erroneous judgments or the erroneous judgment rate of the appearance inspection.
2. The information processing apparatus according to claim 1,
前記再学習部は、外観検査の誤判定数または誤判定率に基づいて、前記特徴抽出部の抽出条件を修正する、
ことを特徴とする請求項に記載の情報処理装置。
the re-learning unit corrects the extraction conditions of the feature extraction unit based on the number or rate of erroneous determinations in the visual inspection.
2. The information processing apparatus according to claim 1 ,
前記プリント基板の外観の撮像画像から、外観検査においてノイズとなる情報を除去する処理を実行するノイズ除去部を備える、
ことを特徴とする請求項1ないしの何れか一項に記載の情報処理装置。
a noise removal unit that removes information that becomes noise in appearance inspection from the captured image of the appearance of the printed circuit board;
4. The information processing apparatus according to claim 1, wherein the information processing apparatus further comprises:
前記判定部は、前記撮像画像と、当該判定部における良品/不良品の判定結果と、検査員の目視による良品/不良品の判定結果とを機械学習にて分類付けする、
ことを特徴とする請求項1ないしの何れか一項に記載の情報処理装置。
The determination unit classifies the captured image, the determination result of the determination unit as to whether the product is good or bad, and the determination result of the inspector as to whether the product is good or bad by visual inspection using machine learning.
5. The information processing apparatus according to claim 1, wherein the information processing apparatus further comprises: a first input section;
撮像装置により得たプリント基板の外観の撮像画像に基づき、良品/不良品を判定する外観検査装置であって、
前記プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
を備え
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とする外観検査装置。
A visual inspection apparatus for determining whether a printed circuit board is good or bad based on an image of the appearance of the printed circuit board obtained by an imaging device, comprising:
A feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Equipped with
The re-learning unit corrects an extraction condition of the feature extraction unit.
A visual inspection apparatus comprising:
プリント基板の外観の撮像画像を得る撮像装置と、
前記撮像装置により得たプリント基板の外観の撮像画像に基づき、良品/不良品を判定する外観検査装置と、
前記外観検査装置で不良品と判定された前記プリント基板の外観の撮像画像について、良品/不良品を判定する請求項1ないしの何れか一項に記載の情報処理装置と、
を備えることを特徴とするプリント基板製造システム。
an imaging device for capturing an image of the appearance of the printed circuit board;
an appearance inspection device for determining whether a printed circuit board is good or bad based on an image of the appearance of the printed circuit board obtained by the imaging device;
5. The information processing device according to claim 1 , further comprising: a display device that displays a display image of the printed circuit board that has been determined to be defective by the appearance inspection device, and determines whether the printed circuit board is non-defective or defective;
A printed circuit board manufacturing system comprising:
コンピュータを、
プリント基板の外観の撮像画像から機械学習を用いて画像特徴量の抽出を行う特徴抽出部と、
前記特徴抽出部で抽出した画像特徴量に基づき、良品/不良品を判定する判定部と、
経時での良品画像の画像特徴量の変化を検知する変化検知部と、
前記変化検知部での検知結果に基づき、不良品画像および特徴量の変化が発生した時の良品画像を用いて、良品/不良品が分離できるように前記判定部の判定条件を修正する再学習部と、
として機能させ
前記再学習部は、前記特徴抽出部の抽出条件を修正する、
ことを特徴とするプログラム。
Computer,
a feature extraction unit that extracts image features from a captured image of the appearance of the printed circuit board using machine learning;
a determination unit for determining whether the product is good or bad based on the image feature amount extracted by the feature extraction unit;
A change detection unit that detects a change in an image feature amount of a non-defective image over time;
a re-learning unit that corrects the judgment conditions of the judgment unit so that good products can be separated from good products by using defective product images and good product images when a change in feature amount occurs based on the detection result of the change detection unit;
Function as a
The re-learning unit corrects an extraction condition of the feature extraction unit.
A program characterized by:
JP2020198006A 2020-11-30 2020-11-30 Information processing device, visual inspection device, printed circuit board manufacturing system and program Active JP7571504B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020198006A JP7571504B2 (en) 2020-11-30 2020-11-30 Information processing device, visual inspection device, printed circuit board manufacturing system and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020198006A JP7571504B2 (en) 2020-11-30 2020-11-30 Information processing device, visual inspection device, printed circuit board manufacturing system and program

Publications (2)

Publication Number Publication Date
JP2022086149A JP2022086149A (en) 2022-06-09
JP7571504B2 true JP7571504B2 (en) 2024-10-23

Family

ID=81894223

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020198006A Active JP7571504B2 (en) 2020-11-30 2020-11-30 Information processing device, visual inspection device, printed circuit board manufacturing system and program

Country Status (1)

Country Link
JP (1) JP7571504B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7643102B2 (en) * 2021-03-15 2025-03-11 オムロン株式会社 Quality evaluation equipment and inspection management system
JP2025006868A (en) * 2023-06-30 2025-01-17 Juki株式会社 Component Mounting System

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006293820A (en) 2005-04-13 2006-10-26 Sharp Corp Appearance inspection apparatus, appearance inspection method, and program for causing computer to function as appearance inspection apparatus
JP2010141209A (en) 2008-12-12 2010-06-24 Sony Corp Substrate inspection device and substrate inspection method
JP2020140644A (en) 2019-03-01 2020-09-03 株式会社日立製作所 Learning device and learning method

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08110216A (en) * 1994-10-13 1996-04-30 Hitachi Denshi Ltd Object surface recognition processing device of appearance inspection device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006293820A (en) 2005-04-13 2006-10-26 Sharp Corp Appearance inspection apparatus, appearance inspection method, and program for causing computer to function as appearance inspection apparatus
JP2010141209A (en) 2008-12-12 2010-06-24 Sony Corp Substrate inspection device and substrate inspection method
JP2020140644A (en) 2019-03-01 2020-09-03 株式会社日立製作所 Learning device and learning method

Also Published As

Publication number Publication date
JP2022086149A (en) 2022-06-09

Similar Documents

Publication Publication Date Title
JP6922168B2 (en) Surface mount line quality control system and its control method
US7260244B2 (en) Print inspection method and print inspection apparatus
EP1254431B1 (en) Method and system for detecting defects on a printed circuit board
JP3870872B2 (en) Inspection data creation method and substrate inspection apparatus using this method
CN101014850B (en) System and method for inspecting electrical circuits utilizing reflective and fluorescent imagery
US7672501B2 (en) Substrate inspection system including a visual inspection device for inspection by image processing
JP2014526706A (en) Non-contact type component inspection apparatus and component inspection method
US20060291713A1 (en) Board inspecting apparatus, its parameter setting method and parameter setting apparatus
JP2005286309A (en) Inspection method and inspection system for component mounting board, and manufacturing method of component mounting board
JP7571504B2 (en) Information processing device, visual inspection device, printed circuit board manufacturing system and program
CN114022436A (en) Detection method, device and detection equipment for printed circuit board
KR20200006028A (en) Printed circuit board inspecting apparatus, method for determining fault type of screen printer and computer readable recording medium
CN102131351A (en) Processing device or acf adhibition state checking method or substrate module assembly line
JP4506395B2 (en) Substrate inspection device, parameter setting method and parameter setting device
JP2000009447A (en) Tape carrier defect detection apparatus and defect detection method
JP2006049347A (en) Component edge detection method, component edge detection program, and inspection apparatus
JP4263519B2 (en) Inspection method of automatic component mounting equipment
JP2008186879A (en) Board inspection method
JP4453503B2 (en) Substrate inspection device, substrate inspection method, inspection logic generation device and inspection logic generation method for substrate inspection device
JPS639602B2 (en)
JP4858227B2 (en) Inspection parameter setting support device, control program and control method thereof
JP4653340B2 (en) Can appearance inspection device using a three-plate CCD camera
JP5510398B2 (en) Weld inspection equipment
JP2004117276A (en) Soldering quality determining method, device and system, and printed board manufacturing system and program
JP5096940B2 (en) Inspection method and apparatus for printed wiring board

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240923

R150 Certificate of patent or registration of utility model

Ref document number: 7571504

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150