JP3996568B2 - Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus - Google Patents
Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus Download PDFInfo
- Publication number
- JP3996568B2 JP3996568B2 JP2003388797A JP2003388797A JP3996568B2 JP 3996568 B2 JP3996568 B2 JP 3996568B2 JP 2003388797 A JP2003388797 A JP 2003388797A JP 2003388797 A JP2003388797 A JP 2003388797A JP 3996568 B2 JP3996568 B2 JP 3996568B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pattern
- externally mounted
- imaging
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000007689 inspection Methods 0.000 title claims description 63
- 238000012545 processing Methods 0.000 title claims description 60
- 238000000034 method Methods 0.000 title claims description 49
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000003384 imaging method Methods 0.000 claims description 97
- 238000000605 extraction Methods 0.000 claims description 24
- 238000009826 distribution Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000005286 illumination Methods 0.000 description 7
- 239000000284 extract Substances 0.000 description 5
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 5
- 229910001018 Cast iron Inorganic materials 0.000 description 4
- 239000012212 insulator Substances 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 239000000945 filler Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005266 casting Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本発明は、撮像画像を用いて所定の画像処理を行うことにより撮像対象物を識別する画像処理方法及び画像処理装置、並びにこの画像処理方法及び画像処理装置が適用される、例えば自動車のエンジンの外部装着部品の誤欠品を検査する誤欠品検査方法及び誤欠品検査装置に関するものである。 The present invention relates to an image processing method and an image processing apparatus for identifying an object to be imaged by performing predetermined image processing using a captured image, and an image processing method and an image processing apparatus to which the image processing method and the image processing apparatus are applied. The present invention relates to an error missing item inspection method and an error missing item inspection device for inspecting an error of an externally mounted component.
自動車の部品の組立工程では、その部品に組み付けられている複数の部品が正しいか否か、及び組み付けられるべき部品の欠品があるか否かを検査する工程(以下、この工程を誤欠品検査工程という。)が設けられている。例えばエンジンの組立工程では、エンジンに組み付けられるEGR(Exhaust Gas Recirculation)バルブ、オイルフィラキャップ、ターボチャージャーなどの複数種類の部品が正しいか否か、及びこれらの部品に欠品があるか否かが検査されている。 In the assembly process of automobile parts, a process of inspecting whether or not a plurality of parts assembled to the part is correct and whether there is a missing part of the part to be assembled (hereinafter, this process is mistakenly missing) Called inspection process). For example, in the assembly process of an engine, whether or not multiple types of parts such as EGR (Exhaust Gas Recirculation) valves, oil filler caps, turbochargers, etc. assembled in the engine are correct and whether these parts are missing. It has been inspected.
そして、この誤欠品検査工程では、専用の誤欠品検査装置を用いて組付部品の誤欠品の検査が行われている。誤欠品検査装置は、例えば特許第3372014号公報に記載されているように、ロボットのアームの先端に照明装置と撮像装置とが一体となった撮像ユニットが設けられたもので、この撮像ユニットをエンジンに対して所定の撮像位置に設定して組付部品を撮像し、その撮像画像に所定の画像処理を行って当該組付部品の有無及び正誤を判定するようになっている。 And in this mistaken missing goods inspection process, the inspection of the mistaken missing goods of an assembly part is performed using the exclusive mistaken article inspection apparatus. As described in, for example, Japanese Patent No. 3372014, the erroneous missing item inspection apparatus includes an imaging unit in which an illumination device and an imaging device are integrated at the tip of a robot arm. Is set at a predetermined image pickup position with respect to the engine, an assembly part is imaged, and a predetermined image processing is performed on the captured image to determine the presence / absence and correctness of the assembly part.
具体的には、図10(a)〜(c)に示すように、組付部品の撮像画像(以下、この画像を原画像という。)に縁点強調処理を施し、その縁点強調画像を用いて周知のエッジ検出処理により撮像画像内の線(当該組付部品の形状を含む画像の輪郭線)を抽出し、この輪郭線のパターン(抽出パターン)を予め用意されている標準の輪郭線のパターン(標準パターン。図示せず)と比較して両パターンの一致率(%)を算出し、例えばその一致率が所定の閾値(例えば60%)以上であるか否かにより組付部品の正誤等を判定するようになっている。
例えばエンジンは、本体が鋳鉄で成形されており、全体に色が黒く、その本体外部に比較的暗い色のEXエンジンブラケットなどの小部品が組み付けられている。このため、エンジン全体が黒っぽい色となるので、誤欠品検査装置で組付部品を撮像する際には、当該組付部品の輪郭部分に明瞭な濃淡の変化が表れるように、組付部品の近接位置に撮像ユニットを設定し、照明光を当該組付部品に照射して撮像画像を取得するようになっている。 For example, the engine has a main body formed of cast iron, and has a black color as a whole. Small parts such as an EX engine bracket of a relatively dark color are assembled outside the main body. For this reason, since the entire engine becomes a blackish color, when imaging an assembly part with an erroneous part inspection device, the change in the assembly part is displayed so that a clear shade change appears in the outline part of the assembly part. An imaging unit is set at a proximity position, and the captured image is acquired by irradiating the assembly light with the illumination light.
しかし、照明光を照射して撮像した撮像画像(原画像)は、組付部品の背景となるエンジン本体等にも照明光が当たるため、原画像の縁点強調処理において、例えばエンジン本体の地肌の模様(鋳鉄の表面にできた凸凹の鋳肌模様)が浮かび上がり、その後のエッジ検出処理でエンジン本体の鋳肌模様が輪郭線として抽出されることになる。 However, since the captured image (original image) captured by illuminating the illumination light is also applied to the engine body or the like that is the background of the assembly part, the edge of the original image is emphasized, for example, the background of the engine body (The uneven cast pattern formed on the surface of the cast iron) emerges, and the cast pattern of the engine body is extracted as a contour line in the subsequent edge detection process.
このため、従来、パターンマッチングにより組付部品の正誤判定を行った場合、正しい組付部品に対する一致率の分布は、図11の実線で示すようになる一方、正しい組付部品に形状が類似している組付部品に対する一致率の分布は、図11の点線で示すようになり、Aで示す部分は誤品として誤判定され、Bで示す部分は正品として誤判定されていた。 Therefore, conventionally, when correctness / incorrectness of assembled parts is determined by pattern matching, the distribution of the coincidence rate with respect to the correct assembled parts is as shown by the solid line in FIG. 11, while the shape is similar to the correct assembled parts. The distribution of the coincidence rate with respect to the assembled parts is as shown by the dotted line in FIG. 11. The portion indicated by A is erroneously determined as an incorrect product, and the portion indicated by B is erroneously determined as an authentic product.
この結果、誤品と判定され、その組付部品について作業員による黙視検査が行われた場合、例えばその誤品判定が、Aで示す部分の誤判定であると、正しい組付部品について誤欠品検査装置による検査と作業員による黙視検査とが行われることになり、不必要に作業工数と時間が掛かるという問題があった。 As a result, if it is determined that the product is a wrong product and the assembly part is subjected to a blind inspection, for example, if the product is judged to be an erroneous judgment of the part indicated by A, there is an error in the correct assembly part. The inspection by the product inspection device and the silent inspection by the worker are performed, and there is a problem that it takes unnecessary man-hours and time.
本発明は、上記課題に鑑みてなされたものであり、識別精度が高く、誤判定の少ない画像処理方法及び画像処理装置、並びにこの画像処理方法と画像処理装置とが適用される誤欠品検査方法と誤欠品検査装置とを提供する。 The present invention has been made in view of the above-described problems, and has an image processing method and an image processing apparatus with high identification accuracy and less misjudgment, and an error-missing item inspection to which the image processing method and the image processing apparatus are applied. Provided are a method and a device for inspecting an error.
本発明は、撮像装置で撮像された対象物のディジタル画像を入力する画像入力手段と、上記対象物の撮像画像に対応する標準的な撮像画像のパターンが記憶された記憶手段と、上記ディジタル画像の濃度強調を行う濃度強調処理手段と、上記濃度強調処理が行われた上記ディジタル画像を用いて上記対象物のボケ画像を生成するボケ画像生成手段と、上記ボケ画像を用いて上記対象物の撮像画像のパターンを抽出するパターン抽出手段と、上記パターン抽出手段により抽出されたパターンを上記記憶手段に記憶された標準的なパターンと比較することにより上記撮像装置で撮像された対象物の正誤を判定する判定手段と、を備えたことを特徴とする画像処理装置である(請求項1)。 The present invention provides an image input means for inputting a digital image of an object imaged by an imaging device, a storage means for storing a standard captured image pattern corresponding to the imaged image of the object, and the digital image Density enhancement processing means for performing density enhancement of the image, a blur image generation means for generating a blurred image of the object using the digital image on which the density enhancement processing has been performed, and the object of the object using the blur image Pattern extraction means for extracting a pattern of the captured image, and comparing the pattern extracted by the pattern extraction means with a standard pattern stored in the storage means, corrects the object imaged by the imaging device. An image processing apparatus comprising: a determination unit for determining.
また、本発明は、撮像画像を用いて所定の画像処理を行うことにより撮像の対象物を識別する画像処理方法であって、撮像装置で撮像された対象物のディジタル画像を入力する画像入力工程と、上記ディジタル画像の濃度強調を行う濃度強調処理工程と、上記濃度強調処理が行われた上記ディジタル画像を用いて上記対象物のボケ画像を生成するボケ画像生成工程と、上記ボケ画像を用いて上記対象物の撮像画像のパターンを抽出するパターン抽出工程と、上記パターン抽出工程により抽出されたパターンを記憶手段に記憶された上記対象物の撮像画像に対応する標準的な撮像画像のパターンと比較することにより上記撮像装置で撮像された対象物の正誤を判定する判定工程と、を備えたことを特徴とする(請求項2)。 The present invention also relates to an image processing method for identifying an object to be imaged by performing predetermined image processing using a captured image, and an image input step of inputting a digital image of the object imaged by the imaging device A density enhancement processing step of performing density enhancement of the digital image, a blur image generation step of generating a blur image of the object using the digital image on which the density enhancement processing has been performed, and using the blur image A pattern extraction step for extracting a pattern of a captured image of the target object, and a pattern of a standard captured image corresponding to the captured image of the target object stored in the storage means, the pattern extracted by the pattern extraction step; And a determination step of determining whether the object imaged by the imaging device is correct by comparing (claim 2).
上記構成の画像処理装置又は画像処理方法によれば、撮像装置で撮像された対象物のディジタル画像が入力されると、このディジタル画像の濃度強調が行われ、更にそのディジタル画像を用いて対象物のボケ画像が生成される。そして、このボケ画像を用いて対象物の撮像画像のパターンが抽出され、この抽出パターンと記憶手段に記憶された標準的な撮像画像のパターン(以下、標準パターンという。)を比較することにより撮像された対象物の正誤が判定される。 According to the image processing apparatus or the image processing method having the above configuration, when a digital image of an object imaged by the imaging apparatus is input, density enhancement of the digital image is performed, and the object is further detected using the digital image. The blurred image is generated. A pattern of a captured image of the object is extracted using the blurred image, and an image is captured by comparing the extracted pattern with a pattern of a standard captured image stored in the storage unit (hereinafter referred to as a standard pattern). The correctness / incorrectness of the selected object is determined.
本発明によれば、ボケ画像を用いて対象物の撮像画像のパターンが抽出されるので、濃度強調処理により対象物の形状や対象物の背景若しくは周辺で濃度変化を有する部分が輪郭線として残った場合にも一定値以上の濃度差がない部分は、ボケ画像で不明瞭となるから、撮像画像のパターンとして抽出されない。従って、対象物の形状を示す輪郭部分のように比較的大きい濃度変化を有する部分のみが撮像画像を構成するパターンとして抽出されるから、標準パターンとの比較による対象物の正誤判定の精度が向上する。 According to the present invention, since the pattern of the captured image of the object is extracted using the blurred image, a portion having a density change in the shape of the object or the background or the periphery of the object remains as a contour line by the density enhancement process. Even in this case, a portion where there is no density difference equal to or greater than a certain value is unclear in the blurred image and is not extracted as a pattern of the captured image. Therefore, since only a portion having a relatively large density change such as a contour portion indicating the shape of the target object is extracted as a pattern constituting the captured image, the accuracy of the target correct / incorrect determination by comparison with the standard pattern is improved. To do.
すなわち、例えば抽出パターンと標準パターンとの一致率が所定の閾値を越えるか否かにより対象物の正誤を判定する場合、対象物が正しい場合の一致率の分布は所定の閾値よりも比較的高い値の部分に集まる一方、対象物が誤っている場合の一致率の分布は所定の閾値よりも比較的低い値の部分に集まり、両分布の裾野が閾値の近傍に広がらなくなるので、対象物の正誤判定の精度が向上する。 That is, for example, when the correctness of an object is determined based on whether the matching rate between the extracted pattern and the standard pattern exceeds a predetermined threshold, the distribution of the matching rate when the target is correct is relatively higher than the predetermined threshold. On the other hand, the distribution of coincidence rate when the object is wrong gathers in the part of the value relatively lower than the predetermined threshold value, and the base of both distributions does not spread near the threshold value. The accuracy of correct / incorrect determination is improved.
本発明は、少なくとも1個の外部装着部品を具備するワークの当該外部装着部品を撮像する撮像手段と、上記撮像手段を上記ワークの所定の撮像位置に設定する位置設定手段と、上記外部装着部品の撮像画像に対応する標準的な撮像画像のパターンが記憶された記憶手段と、上記撮像手段で撮像された上記外部装着部品のディジタル画像の濃度強調を行う濃度強調処理手段と、上記濃度強調処理が行われた上記ディジタル画像を用いて上記外部装着部品のボケ画像を生成するボケ画像生成手段と、上記ボケ画像を用いて上記外部装着部品の撮像画像のパターンを抽出するパターン抽出手段と、上記パターン抽出手段により抽出されたパターンを上記記憶手段に記憶された標準的なパターンと比較することにより上記撮像装置で撮像された外部装着部品の正誤を判定する部品判定手段と、上記部品判定手段の判定結果を視覚可能に出力する出力手段と、を備えたことを特徴とする誤欠品検査装置である(請求項3)。 The present invention includes an image pickup unit that picks up an image of an externally mounted part of a workpiece having at least one externally mounted part, a position setting unit that sets the image pickup unit at a predetermined image pickup position of the work, and the externally mounted part. Storage means for storing a standard captured image pattern corresponding to the captured image, density enhancement processing means for enhancing the density of the digital image of the externally mounted part imaged by the imaging means, and the density enhancement processing A blurred image generating unit that generates a blurred image of the externally mounted component using the digital image, a pattern extracting unit that extracts a pattern of a captured image of the externally mounted component using the blurred image, and the above An external image captured by the imaging device by comparing the pattern extracted by the pattern extracting means with a standard pattern stored in the storage means And determining component determining means correctness of Chakubuhin a Ayamaketsu article inspection apparatus is characterized in that and an output means for outputting visible to the determination result of the component determination means (claim 3).
また、本発明は、少なくとも1個の外部装着部品を具備するワークの当該外部装着部品を撮像装置で撮像し、当該撮像装置から出力される撮像画像を用いて上記ワークに外部装着された部品の正誤を検査する誤欠品検査方法であって、上記撮像装置を上記ワークの所定の撮像位置に設定して上記外部装着部品を撮像する撮像工程と、上記撮像装置で撮像された上記外部装着部品のディジタル画像の濃度強調を行う濃度強調処理工程と、上記濃度強調処理が行われた上記ディジタル画像を用いて上記外部装着部品のボケ画像を生成するボケ画像生成工程と、上記ボケ画像を用いて上記外部装着部品の撮像画像のパターンを抽出するパターン抽出工程と、上記パターン抽出工程により抽出されたパターンを記憶手段に記憶された上記外部装着部品の撮像画像に対応する標準的な撮像画像のパターンと比較することにより上記撮像装置で撮像された外部装着部品の正誤を判定する部品判定工程と、上記部品判定工程の判定結果を視覚可能に出力する出力工程と、を備えたことを特徴とする(請求項4)。 According to the present invention, the externally mounted component of the workpiece having at least one externally mounted component is imaged by an imaging device, and the component externally mounted on the workpiece using the captured image output from the imaging device. An error-missing-item inspection method for inspecting correctness / incorrectness, wherein the imaging device is set at a predetermined imaging position of the workpiece to image the externally mounted component, and the externally mounted component imaged by the imaging device A density enhancement processing step for enhancing the density of the digital image, a blur image generation step for generating a blur image of the externally mounted component using the digital image subjected to the density enhancement processing, and using the blur image A pattern extracting step for extracting a pattern of a captured image of the externally mounted component, and the externally mounted component in which a pattern extracted by the pattern extracting step is stored in a storage unit Comparing with a standard captured image pattern corresponding to a captured image, a component determination step for determining the correctness of an externally mounted component imaged by the imaging device, and a determination result of the component determination step are output visually. And an output step (claim 4).
上記構成の誤欠品検査装置又は誤欠品検査方法によれば、撮像装置で撮像されたワークの外部装着部品のディジタル画像が入力されると、このディジタル画像の濃度強調が行われ、更にそのディジタル画像を用いて対象物のボケ画像が生成される。そして、このボケ画像を用いて外部装着部品の撮像画像のパターンが抽出され、この抽出パターンと記憶手段に記憶された外部装着部品の標準パターンを比較することにより撮像された外部装着部品の正誤が判定される。 According to the error missing item inspection apparatus or the error missing item inspection method having the above-described configuration, when a digital image of the externally mounted part of the workpiece imaged by the imaging device is input, density enhancement of the digital image is performed. A blurred image of the object is generated using the digital image. Then, the pattern of the captured image of the externally mounted component is extracted using the blurred image, and the correctness of the externally mounted component captured by comparing the extracted pattern with the standard pattern of the externally mounted component stored in the storage unit is determined. Determined.
本発明によれば、ボケ画像を用いて外部装着部品の撮像画像のパターンが抽出されるので、濃度強調処理により外部装着部品の形状や対象物の背景若しくは周辺で濃度変化を有する部分が輪郭線として残った場合にも一定値以上の濃度差がない部分は、ボケ画像で不明瞭となるから、撮像画像のパターンとして抽出されない。例えばエンジンの外部装着部品の検査においては、黒い色の鋳鉄で成形されたエンジンに黒っぽいの部品が装着され、その部品の撮像画像に濃度強調処理を行うと、部品の形状の輪郭部分だけでなくエンジンの地肌の凸凹部分も濃度勾配が強調されることになるが、ボケ画像を生成してからパターンを抽出するため、エンジンの地肌の凸凹部分は不明瞭となり、パターンとしては抽出されない。 According to the present invention, since the pattern of the captured image of the externally mounted component is extracted using the blurred image, a portion having a density change in the shape of the externally mounted component or the background of the object or the periphery thereof by the density enhancement process is a contour line. If there is no density difference equal to or greater than a certain value even if it remains, the blurred image is unclear and is not extracted as a pattern of the captured image. For example, in the inspection of externally mounted parts of an engine, if dark parts are mounted on an engine formed of black cast iron and density enhancement processing is performed on the captured image of the parts, not only the contour part of the shape of the part The density gradient is also enhanced for the convex and concave portions of the engine background, but since the pattern is extracted after the blurred image is generated, the convex and concave portions of the engine background are unclear and are not extracted as a pattern.
従って、外部装着部品の形状を示す輪郭部分のように比較的大きい濃度変化を有する部分のみが撮像画像を構成するパターンとして抽出されるから、例えば上述した理由(パターンの一致率による判定での正しい部品と誤った部品の分布の相違が明確になるという理由)から標準パターンとの比較による対象物の正誤判定の精度が向上する。 Accordingly, only a portion having a relatively large density change, such as a contour portion indicating the shape of the externally mounted component, is extracted as a pattern constituting the captured image. For example, the reason described above (correction in the determination based on the pattern matching rate) The accuracy of the correct / incorrect determination of the object by comparison with the standard pattern is improved from the reason that the difference in distribution between the parts and the wrong parts becomes clear.
本発明によれば、ボケ画像を用いて撮影対象物の撮像画像のパターンが抽出されるので、抽出パターンと標準パターンとのパターンマッチングによる撮影対象物の正誤判定の精度を向上させることができる。特にワークの外部に装着された部品の正誤を撮像画像から判定する装置に適用した場合、高い精度で外部装着部品の正誤判定を行うことができる。 According to the present invention, since the pattern of the captured image of the shooting target is extracted using the blurred image, it is possible to improve the accuracy of the correctness determination of the shooting target by pattern matching between the extracted pattern and the standard pattern. In particular, when the present invention is applied to an apparatus that determines the correctness / incorrectness of a component mounted on the outside of a workpiece from a captured image, it is possible to determine whether the externally mounted component is correct / correct with high accuracy.
本発明に係る誤欠品検査方法及び誤欠品検査装置について、図を用いて説明する。 An error missing item inspection method and an error missing item inspection apparatus according to the present invention will be described with reference to the drawings.
図1は、本発明に係る誤欠品検査装置の一実施形態の概略構成を示す図、図2は、同誤欠品検査装置のアーム先端に設けられた撮像ユニットの正面図である。 FIG. 1 is a diagram showing a schematic configuration of an embodiment of an error missing item inspection apparatus according to the present invention, and FIG. 2 is a front view of an imaging unit provided at the arm tip of the error missing item inspection apparatus.
誤欠品検査装置1は、垂直多関節型ロボットからなるロボット2と、このロボット2のアーム21の先端に設けられた撮像ユニット3と、ロボット2及び撮像ユニット3の動作を制御する制御装置4と、この制御装置4に制御に必要な情報を入力したり、制御結果を表示させたりするための入出力表示装置5とで構成されている。 The error missing item inspection apparatus 1 includes a robot 2 composed of a vertical articulated robot, an imaging unit 3 provided at the tip of an arm 21 of the robot 2, and a control device 4 that controls operations of the robot 2 and the imaging unit 3. And an input / output display device 5 for inputting information necessary for control to the control device 4 and displaying a control result.
撮像ユニット3は、図2に示すように、正面視で横長長方形の箱形状をなし、底面の略中央がロボット2のアーム21に固定されている。また、正面の上部には長辺に沿って2個の照明用投光部32a,32bとカラー撮像部31aとが交互に一列に配設され、正面の下部には長辺に沿って3個の照明用投光部32c,32d,32eとモノクロ撮像部31b,31cとが交互に一列に配設されている。 As shown in FIG. 2, the imaging unit 3 has a horizontally-long rectangular box shape when viewed from the front, and the approximate center of the bottom surface is fixed to the arm 21 of the robot 2. In addition, two illumination light projecting units 32a and 32b and a color imaging unit 31a are alternately arranged in a row along the long side at the upper part of the front, and three along the long side at the lower part of the front. Illuminating light projecting sections 32c, 32d, 32e and monochrome imaging sections 31b, 31c are alternately arranged in a line.
カラー撮像部31aは、例えばCCD(Charge-Coupled Device)からなるカラーエリアセンサとこのカラーエリアセンサの撮像面に被写体の光像を結像するズームレンズとで構成されている。カラーエリアセンサは、各画素の撮像面にR(赤),G(緑),B(青)のカラーフィルタを市松模様状に配設してなる単板式カラーエリアセンサで構成されている。このカラー撮像部31aは、色によって組付部品7を識別するために組付部品7をカラー撮像するためのものである。すなわち、組付部品7によっては外観形状が全く同一で性能のみが異なる場合があり、かかる場合は組付部品7にカラーマークが付されているので、組付部品7の撮像画像からカラーマークの色を検出することにより組付部品7の種類を識別するものである。 The color imaging unit 31a includes a color area sensor made up of, for example, a CCD (Charge-Coupled Device) and a zoom lens that forms an optical image of a subject on the imaging surface of the color area sensor. The color area sensor is composed of a single-plate color area sensor in which R (red), G (green), and B (blue) color filters are arranged in a checkered pattern on the imaging surface of each pixel. The color imaging unit 31a is for performing color imaging of the assembly component 7 in order to identify the assembly component 7 by color. That is, depending on the assembly part 7, the appearance shape may be exactly the same and only the performance may be different. In such a case, the color mark is attached to the assembly part 7, so that the color mark of the assembly part 7 is determined from the captured image. The type of the assembly component 7 is identified by detecting the color.
モノクロ撮像部31b,31cも、例えばCCD(Charge-Coupled Device)からなるモノクロエリアセンサとこのカラーエリアセンサの撮像面に被写体の光像を結像するズームレンズとで構成されている。モノクロ撮像部を2個設けているのは、これらのモノクロ撮像部31b,31cによりステレオカメラを構成し、被写体の三次元画像を取得できるようにするためである。なお、カラーエリアセンサ及びモノクロエリアセンサはCCDに限られず、C−MOSイメージセンサなどの他の固体撮像素子であってもよい。また、カラーエリアセンサは単板式に限定されず、R,G,Bの各色に対応して3枚のイメージセンサが設けられた3板式カラーイメージセンサであってよい。 The monochrome imaging units 31b and 31c are also composed of, for example, a monochrome area sensor composed of a CCD (Charge-Coupled Device) and a zoom lens that forms an optical image of a subject on the imaging surface of the color area sensor. The reason why two monochrome imaging units are provided is that these monochrome imaging units 31b and 31c constitute a stereo camera so that a three-dimensional image of the subject can be acquired. The color area sensor and the monochrome area sensor are not limited to the CCD, but may be other solid-state imaging devices such as a C-MOS image sensor. Further, the color area sensor is not limited to a single-plate type, and may be a three-plate type color image sensor provided with three image sensors corresponding to each color of R, G, and B.
照明用投光部32a〜32eは、多数の光ファイバーの束で構成され、図略の光源から発した光を撮像ユニット3の正面(撮像面)に導光し、カラー撮像部31a及びモノクロ撮像部31b,31cの被写体に向けて照射するものである。 The illumination light projecting units 32a to 32e are configured by a bundle of a number of optical fibers, guide light emitted from a light source (not shown) to the front surface (imaging surface) of the imaging unit 3, and the color imaging unit 31a and the monochrome imaging unit. Irradiate toward the subjects 31b and 31c.
撮像ユニット3は、ロボット2のアーム21の駆動によりエンジン6に対する所定の撮影位置に移動可能であるとともに、その撮影位置において、X−Y面(撮像ユニット3の正面と平行な面)内で任意に回転可能になっている。従って、エンジン6の各組付部品7に対する撮像ユニット3の撮影位置及び撮影方向の条件は、ロボット2のアーム21の駆動を制御するとともに、ズームレンズの倍率を制御することにより予め設定された条件(誤欠品検査部42での画像のマッチング処理に必要な画角の条件)に設定されるようになっている。 The imaging unit 3 can be moved to a predetermined imaging position with respect to the engine 6 by driving the arm 21 of the robot 2, and at the imaging position, the imaging unit 3 is arbitrary in the XY plane (a plane parallel to the front of the imaging unit 3). It can be rotated. Accordingly, the conditions of the shooting position and shooting direction of the imaging unit 3 with respect to each assembled component 7 of the engine 6 are set in advance by controlling the drive of the arm 21 of the robot 2 and the magnification of the zoom lens. (An angle-of-view condition necessary for image matching processing in the erroneous missing item inspection unit 42) is set.
制御装置4はCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、入出力IF(Interface)を基本構成とするマイクロコンピュータからなり、ROMに予め記憶されたプログラムをCPUに実行させることによりロボット2及び撮像ユニット3の動作制御の機能と、撮像ユニット3で撮像された画像を用いて、例えばエンジン6の外部に組み付けられた部品7の正誤及び欠品の有無を判定する画像処理の機能とを果す。制御装置4内のロボット制御部41は、ロボット2及び撮像ユニット3の動作制御を果す部分を機能ブロックで示したものであり、誤欠品検査部42は、撮像画像を用いた組付部品7の正誤及び欠品の有無の判定処理を行う部分を機能ブロックで示したものである。 The control device 4 includes a microcomputer having a basic configuration of a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and an input / output IF (Interface), and a program stored in advance in the ROM is stored in the CPU. For example, using the function of controlling the operation of the robot 2 and the imaging unit 3 and the image captured by the imaging unit 3, for example, whether or not the component 7 assembled outside the engine 6 is correct or not is determined. It performs the functions of image processing. The robot control unit 41 in the control device 4 is a functional block showing a part that controls the operation of the robot 2 and the imaging unit 3, and the erroneous part inspection unit 42 is an assembly part 7 that uses the captured image. The part which performs the determination process of the right / wrong and the presence / absence of a missing part is shown by a functional block.
ROMには、エンジン6の種類毎に検査すべき複数個の組付部品7を撮像ユニット3で撮像するためのロボット2の制御手順と撮像ユニット3の撮像手順(組付部品7が複数個ある場合は、各組付部品7を順番に撮像する手順)のプログラムが記憶されており、ロボット制御部41はこのプログラムをRAMに展開して実行することにより誤欠品検査処理における組付部品7の撮像画像の取込みを制御する。すなわち、本実施形態では、誤欠品検査部42で、エンジン6のEGRバルブ、アウトレットウォーター、INインシュレータ、オイルフィラキャップ、オルタネータ、ターボチャージャー、EXエンジンブラケット及びEXインシュレータの8種類の組付部品7について部品の正誤及び欠品の有無を判定するようになされ、ROMには、これらの組付部品7毎に、組付部品7に対する撮像位置や撮像ユニット3の撮像方向などの情報が記憶されており、ロボット制御部41はこの情報に従ってロボット2のアーム21を駆動することにより撮像ユニット3を撮影対象の組付部品7に対して所定の撮像位置に設定し、撮像ユニット3の撮像部31(後述する)を駆動して当該組付部品7の撮像画像を取り込む。この撮像画像のデータは誤欠品検査部42に入力され、組付部品7の正誤及び欠品の有無の判定の処理(後述する)に使用される。 The ROM has a control procedure for the robot 2 for imaging a plurality of assembly parts 7 to be inspected for each type of engine 6 by the imaging unit 3 and an imaging procedure for the imaging unit 3 (a plurality of assembly parts 7 are provided). In this case, a program of a procedure for imaging each assembly part 7 in order is stored, and the robot control unit 41 develops this program in the RAM and executes it to execute the assembly part 7 in the erroneous part inspection process. The capture of the captured image is controlled. In other words, in the present embodiment, the misplaced product inspection unit 42 uses the EGR valve, the outlet water, the IN insulator, the oil filler cap, the alternator, the turbocharger, the EX engine bracket, and the EX insulator 7 types of assembly parts 7 of the engine 6. Whether the parts are correct or not and whether there is a missing part is determined, and the ROM stores information such as the imaging position of the assembled part 7 and the imaging direction of the imaging unit 3 for each of the assembled parts 7. The robot control unit 41 drives the arm 21 of the robot 2 according to this information to set the imaging unit 3 at a predetermined imaging position with respect to the assembly component 7 to be imaged, and the imaging unit 31 ( The captured image of the assembly component 7 is captured by driving (described later). The captured image data is input to the error / missing part inspection unit 42 and is used for processing (described later) for determining whether the assembled part 7 is correct or not and whether there is a missing part.
また、ROMには、誤欠品検査部42でパターンマッチングにより組付部品7の正誤及び欠品の有無を判定する際に用いられる標準的なパターン(以下、標準パターンという。)が記憶されている。標準パターンは、上述したEGRバルブ乃至EXインシュレータの8種類の組付部品7に対してそれぞれ必要数ずつ(各組付部品について複数種類の形状の部品がある場合、その種類数ずつ)用意されている。 The ROM stores a standard pattern (hereinafter referred to as a standard pattern) used when the error / missing item inspection unit 42 determines the correctness of the assembled part 7 and the presence / absence of a missing item by pattern matching. Yes. The required number of standard patterns is prepared for each of the eight types of assembly parts 7 of the EGR valve or EX insulator described above (if there are multiple types of parts for each assembly part, the number of types). Yes.
なお、各標準パターンは、対応する組付部品7を所定の位置で撮像したときの撮像画像に含まれる輪郭線(組付部品7の形状を示す輪郭線とその背景に表れる代表的な輪郭線からなる)で構成されている。例えばエンジン6のアウトレットウォーターについて、5種類の形状の異なるアウトレットウォーターがある場合、図3(a)〜(e)に示すように、5種類の標準パターンがROMに記憶されている。なお、図3(a)〜(e)において、四角い枠で囲んだ部分が撮像範囲(標準パターン)であり、各標準パターンは、この枠内に含まれるアウトレットウォーターの形状の輪郭線と背景部分の代表的な輪郭線(例えばキャップが取り付けられている円筒状の本体部分の輪郭線など)で構成される。 Each standard pattern includes a contour line (a contour line indicating the shape of the assembly component 7 and a typical contour line that appears in the background) included in the captured image when the corresponding assembly component 7 is captured at a predetermined position. Consisting of). For example, when there are five types of outlet water having different shapes for the outlet water of the engine 6, five types of standard patterns are stored in the ROM as shown in FIGS. In FIGS. 3A to 3E, a portion surrounded by a square frame is an imaging range (standard pattern), and each standard pattern includes an outline of an outlet water shape included in the frame and a background portion. The representative contour line (for example, the contour line of the cylindrical main body portion to which the cap is attached).
入出力表示装置5はタッチパネルからなり、入出力表示装置5には誤欠品検査に必要な条件(例えば検査対象のエンジンの種類や名称及びそのエンジンの組付部品の種類や名称など)を入力するためのメニュー画面が表示され、作業者がこのメニュー画面に表示される操作スイッチや選択項目を押圧操作することにより所要の条件が制御装置4に入力される。 The input / output display device 5 is composed of a touch panel, and the input / output display device 5 is inputted with conditions necessary for the inspection of the missing item (for example, the type and name of the engine to be inspected and the type and name of the assembly parts of the engine) A menu screen is displayed, and a required condition is input to the control device 4 when the operator presses an operation switch or a selection item displayed on the menu screen.
次に、本発明に係る誤欠品検査部42の機能について、図4を用いて具体的に説明する。 Next, the function of the erroneous product inspection unit 42 according to the present invention will be specifically described with reference to FIG.
図4は、誤欠品検査部42の処理工程を機能ブロックで表した図である。誤欠品検査部42は、画像強調処理部421、ボケ画像作成部422、輪郭線抽出部423、パターンマッチング処理部424及び部品判定部425で構成されている。なお、標準パターン記憶部426は、パターンマッチングに用いる組付部品7の標準パターンを記憶するもので、上述したように本実施形態ではROMがその機能を果している。なお、ロボット2及び撮像ユニット3の駆動制御や誤欠品検査処理を行うプログラムを記憶したROM以外にEEPROMを設け、標準パターンをこのEEPROMに記憶させていてもよい。 FIG. 4 is a functional block diagram showing the processing steps of the erroneous product inspection unit 42. The erroneous missing item inspection unit 42 includes an image enhancement processing unit 421, a blurred image creation unit 422, a contour line extraction unit 423, a pattern matching processing unit 424, and a component determination unit 425. The standard pattern storage unit 426 stores the standard pattern of the assembly component 7 used for pattern matching. As described above, the ROM performs its function as described above. Note that an EEPROM may be provided in addition to a ROM that stores a program for performing drive control of the robot 2 and the imaging unit 3 and an erroneous missing item inspection process, and a standard pattern may be stored in the EEPROM.
画像強調処理部421は、撮像ユニット2のモノクロ撮像部31b,31cにより組付部品7を撮像して得られるディジタル画像のデータ(以下、原画像データという。)に画像強調処理を行うものである。画像強調処理部421は、原画像データに当該原画像をエッジ強調した画像データを重ね合わせることにより先鋭化された原画像のデータ(以下、強調画像データという。)を生成する。具体的には、例えば原画像データがx列y行の画素群の濃度データで構成され、原画像を表す関数をf(x,y)とし、原画像関数f(x,y)の二次微分関数を∇2f(ただし、ラプラシアン∇2は二次微分演算子であって、∇2=∂2/∂x2+∂2/∂y2である)とすると、画像強調処理部421は、g(x,y)=f(x,y)−∇2f(x,y)を演算することにより強調画像を表す関数g(x,y)を算出する。 The image enhancement processing unit 421 performs image enhancement processing on digital image data (hereinafter referred to as original image data) obtained by imaging the assembly component 7 by the monochrome imaging units 31b and 31c of the imaging unit 2. . The image enhancement processing unit 421 generates sharpened original image data (hereinafter referred to as “emphasized image data”) by superimposing image data obtained by edge-enhancing the original image on the original image data. Specifically, for example, the original image data is composed of density data of a pixel group of x columns and y rows, a function representing the original image is f (x, y), and a secondary of the original image function f (x, y). When the differential function is ∇ 2 f (where Laplacian ∇ 2 is a second-order differential operator and ∇ 2 = ∂ 2 / ∂x 2 + ∂ 2 / ∂y 2 ), the image enhancement processing unit 421 , G (x, y) = f (x, y) −∇ 2 f (x, y) is calculated to calculate a function g (x, y) representing the enhanced image.
画像強調処理部421における画像強調処理は、上述した従来の検査方法における画像強調処理と同様で、図10に示したように、この画像強調処理により原画像(図10(a)参照)からエッジが強調された画像(図10(b)参照)が得られる。 The image enhancement processing in the image enhancement processing unit 421 is the same as the image enhancement processing in the conventional inspection method described above, and as shown in FIG. 10, the edge enhancement is performed from the original image (see FIG. 10A) by this image enhancement processing. Is obtained (see FIG. 10B).
ボケ画像作成部422は、画像強調処理部421から出力される強調画像データを用いてボケ画像を作成するものである。ボケ画像作成部422は、強調画像に平均化処理若しくは積分演算を施すことによりボケ画像を生成する。具体的には、ボケ画像作成部422は、例えば3×3のマスクを用いて選択的に局所部分の濃度データの平均化処理を行うことによりボケ画像を生成する。すなわち、ボケ画像を表す関数をh(x,y)とすると、h(x,y)={g(x−1,y−1)+g(x,y−1)+g(x+1,y−1)+g(x−1,y)+g(x,y)+g(x+1,y)+g(x−1,y+1)+g(x,y+1)+g(x+1,y+1)}/9を演算することによりボケ画像が作成される。この演算処理により、例えば図10(b)の例では、図5に示すようなボケ画像が生成される。 The blurred image creation unit 422 creates a blurred image using the enhanced image data output from the image enhancement processing unit 421. The blurred image creation unit 422 generates a blurred image by performing an averaging process or an integral operation on the emphasized image. Specifically, the blurred image creation unit 422 generates a blurred image by selectively averaging density data of local portions using, for example, a 3 × 3 mask. That is, if a function representing a blurred image is h (x, y), h (x, y) = {g (x−1, y−1) + g (x, y−1) + g (x + 1, y−1). ) + G (x-1, y) + g (x, y) + g (x + 1, y) + g (x-1, y + 1) + g (x, y + 1) + g (x + 1, y + 1)} / 9 An image is created. By this calculation processing, for example, in the example of FIG. 10B, a blurred image as shown in FIG. 5 is generated.
輪郭線抽出部423は、ボケ画像作成部422で作成されたボケ画像から当該ボケ画像に含まれる輪郭線(組付部品7の形状を示す輪郭線や組付部品7が取り付けられた背景部分に表れる他の部品の輪郭線など)を抽出する。輪郭線抽出部423は、例えば二次微分フィルタ(ラプラシアンフィルタ若しくはガウス型ラプラシアンフィルタ等)を用いてボケ画像を構成する画素データに対し、微分演算を行うことにより輪郭線を抽出する。この輪郭線抽出処理により、例えば図5の例では、図6に示すように輪郭線のパターンが得られる。 The contour line extraction unit 423 generates a contour line (contour line indicating the shape of the assembled part 7 or the background part to which the assembled part 7 is attached) from the blurred image created by the blurred image creation part 422. Extract outlines of other parts that appear). The contour line extraction unit 423 extracts a contour line by performing a differentiation operation on pixel data constituting a blurred image using, for example, a second-order differential filter (Laplacian filter or Gaussian Laplacian filter). By this contour line extraction process, for example, in the example of FIG. 5, a contour line pattern is obtained as shown in FIG.
パターンマッチング処理部424は、輪郭線抽出部423で抽出された輪郭線のパターン(以下、抽出パターンという。)を標準パターン記憶部426に記憶された組付部品7の標準パターンと照合し、両パターンの一致率を算出するものである。パターンマッチング処理部424は、例えば標準パターンと抽出パターンとの位置ずれ量(対応する点同士の距離)を算出し、その位置ずれ量が所定の閾値以下であるパターンの割合を算出する。例えば抽出パターンに含まれる全ての輪郭線が標準パターンの輪郭線に対して所定の閾値以下のずれ量の範囲にあるときは、一致率Rは100%であると判定される。一方、抽出パターンに含まれる全ての輪郭線が標準パターンの輪郭線に対して所定の閾値よりも大きいずれ量の範囲にあるときは、一致率Rは0%であると判定される。また、抽出パターンに含まれる全ての輪郭線のうち、例えば半分の輪郭線が標準パターンの輪郭線に対して所定の閾値以下のずれ量の範囲にあるときは、一致率Rは50%であると判定される。 The pattern matching processing unit 424 collates the contour pattern extracted by the contour extraction unit 423 (hereinafter referred to as “extraction pattern”) with the standard pattern of the assembly component 7 stored in the standard pattern storage unit 426, and The pattern matching rate is calculated. The pattern matching processing unit 424 calculates, for example, a positional deviation amount (a distance between corresponding points) between the standard pattern and the extracted pattern, and calculates a ratio of patterns whose positional deviation amount is a predetermined threshold value or less. For example, when all the contour lines included in the extracted pattern are within a range of deviation amounts below a predetermined threshold with respect to the contour line of the standard pattern, the matching rate R is determined to be 100%. On the other hand, when all the contour lines included in the extracted pattern are in a range of an amount larger than a predetermined threshold with respect to the contour line of the standard pattern, the matching rate R is determined to be 0%. Further, among all the contour lines included in the extracted pattern, for example, when the half contour line is within the range of the deviation amount below the predetermined threshold with respect to the contour line of the standard pattern, the matching rate R is 50%. It is determined.
上述のように、本実施形態では、組付部品7の撮像画像に対して画像強調処理をした後、ボケ画像を生成し、このボケ画像からパターンを抽出しているので、背景部分や組付部品以外の鋳造品の鋳肌部分がパターンとして抽出されることが低減され、図11に相当する一致率の分布は、例えば図7に示すようになる。従って、同図に示すように、正しい組付部品に対する一致率の分布(実線で示す分布)と正しい組付部品に形状が類似している誤った組付部品に対する一致率の分布(点線で示す分布)は、従来(図11参照)のように閾値Rtの近傍で重複することがなくなるので、この重複部分が誤判定されることがなくなり、検査精度は従来よりも向上するようになっている。 As described above, in the present embodiment, the image enhancement processing is performed on the captured image of the assembly component 7, and then the blurred image is generated and the pattern is extracted from the blurred image. Extraction of a cast surface portion of a cast product other than a part as a pattern is reduced, and the distribution of the coincidence rate corresponding to FIG. 11 is as shown in FIG. 7, for example. Therefore, as shown in the figure, the distribution of coincidence rate for correct assembly parts (distribution indicated by solid lines) and the distribution of coincidence rate for incorrect assembly parts similar in shape to correct assembly parts (indicated by dotted lines) (Distribution) does not overlap in the vicinity of the threshold value Rt as in the conventional case (see FIG. 11), so that this overlapping portion is not erroneously determined, and the inspection accuracy is improved as compared with the conventional case. .
標準パターン記憶部426には、上述したように、各組付部品7毎に異なる形状の部品が複数種類ある場合、その複数種類数の標準パターンが記憶されている。従って、パターンマッチング処理部424は、ある組付部品7について、複数種類の標準パターンがある場合は、当該組付部品7のID番号に対応する標準パターンだけでなく他の標準パターンについてもパターンの一致率Rを算出する。すなわち、表1に示すように、例えば組付部品7の種類がa,b,c,d,eの5種類あり、各組付部品7について、A,B,C,D,Eの5種類の標準パターンがあるとすると、例えばaの組付部品7については、A,B,C,D,Eの5種類の標準パターンについてそれぞれパターンの一致率Rが算出される。 As described above, the standard pattern storage unit 426 stores a plurality of types of standard patterns when there are a plurality of types of parts having different shapes for each assembled part 7. Therefore, when there are a plurality of types of standard patterns for a certain assembled part 7, the pattern matching processing unit 424 determines not only the standard pattern corresponding to the ID number of the assembled part 7 but also other standard patterns. The coincidence rate R is calculated. That is, as shown in Table 1, for example, there are five types of assembly parts 7: a, b, c, d, and e. For each assembly part 7, five types of A, B, C, D, and E For example, for the assembly part a, the pattern matching rate R is calculated for each of the five standard patterns A, B, C, D, and E.
このように、ID番号に対応する標準パターン以外の標準パターンについても一致率Rを算出し、誤欠品の判定をするのは、判定結果の信頼性を高めるためである。すなわち、ID番号に対応する標準パターンについてだけパターンの一致率Rから組付部品7の正誤若しくは欠品の有無を判定すると、例えば撮像画像に含まれるノイズに起因して誤品が正しい部品と判定されたり、逆に正しい部品が誤品と判定される場合にそれを確認することができないため、誤判定が発生することになるが、ID番号に対応する標準パターン以外の標準パターンについてもパターンの一致率Rから組付部品7の正誤若しくは欠品の有無を判定すると、上述の誤判定が生じる虞がある場合にもそれが確認されるため、誤判定の発生を可及的に防止することができるからである。 As described above, the reason why the coincidence rate R is calculated for the standard patterns other than the standard pattern corresponding to the ID number and the determination of an erroneous product is made is to increase the reliability of the determination result. That is, when it is determined whether or not the assembled part 7 is correct or missing from the pattern matching rate R only for the standard pattern corresponding to the ID number, for example, the incorrect part is determined to be a correct part due to noise included in the captured image. If the correct part is determined to be a wrong product, it cannot be confirmed, and an erroneous determination will occur. However, the standard pattern other than the standard pattern corresponding to the ID number is Since it is confirmed even if there is a possibility that the above-mentioned misjudgment may occur when judging whether the assembled parts 7 are correct or not from the coincidence rate R, the occurrence of misjudgment should be prevented as much as possible. Because you can.
部品判定部425は、パターンマッチング処理部424により算出されたパターンの一致率Rに基づいて組付部品7の正誤及び欠品の判定を行うものである。部品判定部425は、パターンの一致率Rを予め設定された所定の第1閾値Rt1(例えば60%)と比較し、一致率Rが第1閾値Rt1以上であると、正しい部品であると判定し、一致率Rが第1閾値Rt1より小さいと、誤品であると判定する。また、部品判定部425は、パターンの一致率Rを予め設定された所定の第2閾値Rt2(<Rt,例えば10%)と比較し、一致率Rが第2閾値Rt2以上であると、部品有りと判定し、一致率Rが第2閾値Rt2より小さいと、欠品であると判定する。 The component determination unit 425 determines whether the assembled component 7 is correct or not based on the pattern matching rate R calculated by the pattern matching processing unit 424. The component determination unit 425 compares the pattern matching rate R with a predetermined first threshold value Rt1 (for example, 60%), and determines that the component is a correct component if the matching rate R is equal to or greater than the first threshold value Rt1. When the coincidence rate R is smaller than the first threshold value Rt1, it is determined that the product is a wrong product. Further, the component determination unit 425 compares the pattern matching rate R with a predetermined second threshold Rt2 (<Rt, for example, 10%) set in advance, and if the matching rate R is equal to or higher than the second threshold Rt2, the component If it is determined that there is a match and the coincidence rate R is smaller than the second threshold value Rt2, it is determined that the product is missing.
部品判定部425は、上述したように、各組付部品7毎に複数の標準パターンについて判定処理を行う。すなわち、表1の例では、例えばaの組付部品7についてA,B,C,D,Eの5種類の標準パターンに対して、一致率Rと第1閾値Rt1,第2閾値Rt2とを比較し、各標準パターンについて、部品の有無及び正誤を判定する。その判定結果が例えば表2に示すような場合、Aの標準パターンについてのみR>Rt1であるから、aの組付部品7の検査結果は「OK」となる。一方、その判定結果が例えば表3に示すような場合、AとDの標準パターンについてR>Rt1であるから、aの組付部品7の検査結果は「NG」となる。すなわち、表3の場合は、組付部品7がAの部品ともDの部品とも判別が付かないので、ID番号に対応する標準パターンがAの部品のものであっても検査精度を高めるため、「NG」扱いとして黙視検査に回されることになる。 As described above, the component determination unit 425 performs determination processing for a plurality of standard patterns for each assembled component 7. That is, in the example of Table 1, for example, the matching rate R and the first threshold value Rt1 and the second threshold value Rt2 are set for five standard patterns A, B, C, D, and E for the assembly part 7 of a. By comparison, the presence / absence and correctness of parts are determined for each standard pattern. For example, when the determination result is as shown in Table 2, since R> Rt1 only for the standard pattern A, the inspection result of the assembled part 7 of “a” is “OK”. On the other hand, when the determination result is as shown in Table 3, for example, since R> Rt1 for the standard patterns A and D, the inspection result of the assembled part 7 of “a” is “NG”. That is, in the case of Table 3, since the assembly part 7 cannot be discriminated from the part A or the part D, in order to increase the inspection accuracy even if the standard pattern corresponding to the ID number is the part A, It will be sent to the silent inspection as "NG" treatment.
なお、表3において、Dの標準パターンのみがR>Rt1となった場合は検査結果は「NG」となる。この場合は、Dタイプの部品の標準パターンに対してR>Rt1となっているため、本来Aタイプの部品7が取り付けられるべきところ、Dタイプの部品7が取り付けられていると認定されるからである。 In Table 3, when only the standard pattern of D satisfies R> Rt1, the inspection result is “NG”. In this case, since R> Rt1 with respect to the standard pattern of the D-type component, it is recognized that the D-type component 7 is attached where the A-type component 7 should be originally attached. It is.
次に、本発明に係る誤欠品検査部42の処理動作について、図8,図9を用いて説明する。 Next, the processing operation of the erroneous product inspection unit 42 according to the present invention will be described with reference to FIGS.
図8は、誤欠品検査部42の処理手順を示すフローチャートである。 FIG. 8 is a flowchart showing the processing procedure of the error missing part inspection unit 42.
所定の検査位置に検査対象のワーク、例えばエンジン6が設定されると(S1:YES)、当該エンジン6のID番号が読み取られる(S2)。エンジン6のID番号の読み取りは、撮像ユニット3によりエンジン6の所定位置に記載されたID番号を撮像し、その撮像画像を解析することより読み取られる。エンジン6のID番号が確認されると、当該エンジン6の検査対象となる1又は2以上の複数の組付部品7が特定され、撮像ユニット3により予め設定された順番で各組付部品7を撮像し、その撮像画像を用いて組付部品7毎に部品の正誤及び欠品の有無の検査が行われる。 When a workpiece to be inspected, for example, the engine 6 is set at a predetermined inspection position (S1: YES), the ID number of the engine 6 is read (S2). The ID number of the engine 6 is read by imaging the ID number described at a predetermined position of the engine 6 by the imaging unit 3 and analyzing the captured image. When the ID number of the engine 6 is confirmed, one or two or more assembly parts 7 to be inspected by the engine 6 are specified, and the assembly parts 7 are set in the order preset by the imaging unit 3. The captured image is used to check the correctness of parts and the presence / absence of missing parts for each assembled part 7.
すなわち、まず、検査すべき組付部品7の数をカウントするカウンタnに1がセットされる(S3)。続いて、ROMからNo.1の組付部品7に対する撮像条件(照明量や撮像位置や撮像方向などの条件)が読み出され、この撮像条件に基づいてロボット2を駆動するとともに、撮像ユニット3を駆動してNo.1の組付部品7に対する撮像画像を取り込む(S4)。なお、この撮像では、組付部品7の種類によってカラー撮像又はモノクロ撮像、あるいはカラー撮像とモノクロ撮像の両方が行われるが、この説明では便宜上、モノクロ撮像をする場合について説明する。 That is, first, 1 is set to a counter n that counts the number of assembly parts 7 to be inspected (S3). Then, from ROM, No. The image pickup conditions (conditions such as illumination amount, image pickup position, and image pickup direction) for the assembly part 7 of the first assembly are read out, and the robot 2 is driven based on the image pickup conditions and the image pickup unit 3 is driven to A captured image for one assembly component 7 is captured (S4). In this imaging, color imaging or monochrome imaging, or both color imaging and monochrome imaging are performed depending on the type of the assembly component 7, but in this description, the case of monochrome imaging will be described for convenience.
続いて、ステップS5〜S9で撮像ユニット3により取り込まれた撮像画像(原画像)を用いてNo.1の組付部品7の正誤及び欠品の有無の判定処理が行われる。すわなち、まず、画像強調処理部421により原画像の強調処理が行われた後(S5)、この強調画像を用いてボケ画像生成部422によりボケ画像が生成され(S6)、更に輪郭線抽出部423によりボケ画像から撮像画像に含まれる輪郭線(パターン)が抽出される(S7)。 Subsequently, using the captured image (original image) captured by the imaging unit 3 in steps S5 to S9, No. 4 is used. The determination process of the presence / absence of one assembly part 7 and the presence or absence of a missing part is performed. That is, first, after the original image enhancement processing is performed by the image enhancement processing unit 421 (S5), a blurred image is generated by the blurred image generation unit 422 using this enhanced image (S6), and further the contour line An outline (pattern) included in the captured image is extracted from the blurred image by the extraction unit 423 (S7).
続いて、パターンマッチング処理部424によりNo.1の組付部品7について設けられた1又は2以上の標準パターンに対する抽出パターンの一致率Rが算出され(S8)、この後、部品判定部425により各一致率Rについて第1閾値Rt1及び第2閾値Rt2との大小関係を判別することにより、No.1の組付部品7に対する部品の正誤及び欠品の有無が判定される(S9)。この判定結果は、RAMに一時保存される(S10)。 Subsequently, the pattern matching processing unit 424 performs No. The match rate R of the extracted pattern with respect to one or more standard patterns provided for one assembly component 7 is calculated (S8), and thereafter, the component determination unit 425 sets the first threshold value Rt1 and the first threshold Rt1 for each match rate R. 2 by determining the magnitude relationship with the threshold value Rt2. It is determined whether or not there is a component error or missing item for one assembled component 7 (S9). This determination result is temporarily stored in the RAM (S10).
続いて、カウンタnが1だけ増加された後(S11)、そのカウンタ値nがエンジン6の検査数Nを超えているか否かが判別される(S12)。なお、検査数NはID番号に対応して設定されており、ステップS2のID番号の読込みにより知ることができる。ステップS12で、n≦Nであれば、No.nの組付部品7について判定処理をするべくステップS4に戻る。そして、上述した判定方法と同様の方法でNo.nの組付部品7について判定処理が行われ、以下同様の方法でNo.Nの組付部品7まで判定処理が終了すると、ステップS12でn>Nとなるから、ステップS13に移行し、N個の組付部品7の判定結果がエンジン6の検査結果として、例えば図9に示す表示態様で入力表示装置5に表示された後、ワークが搬出され(S14)、検査処理は終了する。 Subsequently, after the counter n is incremented by 1 (S11), it is determined whether or not the counter value n exceeds the inspection number N of the engine 6 (S12). The inspection number N is set corresponding to the ID number, and can be known by reading the ID number in step S2. If n ≦ N in step S12, No. The process returns to step S4 to perform the determination process for the n assembled parts 7. And it is No. by the method similar to the determination method mentioned above. n, the determination process is performed on the assembled parts 7, and the same method is used for No. 5 below. When the determination process is completed up to N assembly parts 7, since n> N in step S12, the process proceeds to step S13, and the determination results of the N assembly parts 7 are obtained as the inspection results of the engine 6, for example, FIG. After being displayed on the input display device 5 in the display mode shown in (1), the work is carried out (S14), and the inspection process ends.
なお、図9に示す表示態様は、全ての判定対象の組付部品7に対して「OK」、「NG」及び「検査シナイ」の表示窓を設け、各組付部品7の判定結果に対応する表示窓を点灯させるようにしたものである。「総合OK」及び「総合NG」の表示は、全体的な検査結果を表示するものであり、「ID読取OK」、「ID読取NG」は検査処理プロセスにおけるエンジン6のID読取処理の正否を表示するものである。「総合NG」が点灯された場合は、組付部品7のいずれかで「NG」が点灯されるか、「ID読取NG」が点灯されることによりNGの原因が分るようになっている。 In addition, the display mode shown in FIG. 9 is provided with “OK”, “NG” and “inspection” display windows for all the assembly parts 7 to be judged, and corresponds to the judgment results of the respective assembly parts 7. The display window to be turned on is turned on. “Total OK” and “Total NG” display indicate the overall inspection result, and “ID reading OK” and “ID reading NG” indicate whether the ID reading process of the engine 6 in the inspection process is correct or not. To display. When “Comprehensive NG” is turned on, “NG” is turned on in any of the assembled parts 7 or “ID reading NG” is turned on so that the cause of NG can be understood. .
上記のように、誤欠品検査装置1は、組付部品7の撮像画像からボケ画像を生成し、そのボケ画像からパターンを抽出するようにしているので、当該パターンに含まれるノイズを好適に低減することができ、組付部品7の正誤及び欠品の有無の判定の精度を向上させることができる。特に、エンジンなどの鋳鉄製の部品6に組み付けられた部品7の判定処理に対し、鋳物の地肌部分がパターン抽出時にノイズとなって混入するのを適切に防止でき、高精度で組付部品7の判定を行うことができる。 As described above, the erroneous missing item inspection apparatus 1 generates a blurred image from the captured image of the assembly component 7 and extracts a pattern from the blurred image. It is possible to reduce the accuracy, and it is possible to improve the accuracy of determination as to whether the assembled part 7 is correct or not and whether there is a missing part. In particular, it is possible to appropriately prevent the background portion of the casting from being mixed as noise during pattern extraction for the determination processing of the component 7 assembled to the cast iron component 6 such as an engine, and the assembly component 7 with high accuracy. Can be determined.
1 誤欠品検査装置
2 ロボット
3 撮像ユニット
31 撮像部(撮像手段)
31a カラー撮像部
31b,31c モノクロ撮像部
32 照明部
32a〜32e 投光部
4 制御装置
41 ロボット制御部(位置設定手段)
42 誤欠品検査部
421 画像強調部(濃度強調手段)
422 ボケ画像作成部(ボケ画像生成手段)
423 輪郭線抽出部(パターン抽出手段)
424 パターンマッチング処理部
425 部品判定部(判定手段,部品判定手段)
426 標準パターン記憶部(記憶手段)
5 入出力表示装置(出力手段)
6 エンジン(ワーク)
7 部品(外部装着部品)
DESCRIPTION OF SYMBOLS 1 Missing item inspection apparatus 2 Robot 3 Imaging unit 31 Imaging part (imaging means)
31a Color imaging unit 31b, 31c Monochrome imaging unit 32 Illumination unit 32a to 32e Light projection unit 4 Controller 41 Robot control unit (position setting means)
42 Missing product inspection section 421 Image enhancement section (density enhancement means)
422 Blur image creation unit (blur image generation means)
423 Outline extraction unit (pattern extraction means)
424 pattern matching processing unit 425 component determination unit (determination unit, component determination unit)
426 Standard pattern storage unit (storage means)
5 Input / output display device (output means)
6 Engine (work)
7 Parts (Externally mounted parts)
Claims (4)
上記対象物の撮像画像に対応する標準的な撮像画像のパターンが記憶された記憶手段と、
上記ディジタル画像の濃度強調を行う濃度強調処理手段と、
上記濃度強調処理が行われた上記ディジタル画像を用いて上記対象物のボケ画像を生成するボケ画像生成手段と、
上記ボケ画像を用いて上記対象物の撮像画像のパターンを抽出するパターン抽出手段と、
上記パターン抽出手段により抽出されたパターンを上記記憶手段に記憶された標準的なパターンと比較することにより上記撮像装置で撮像された対象物の正誤を判定する判定手段と、
を備えたことを特徴とする画像処理装置。 Image input means for inputting a digital image of the object imaged by the imaging device;
Storage means for storing a standard captured image pattern corresponding to the captured image of the object;
Density enhancement processing means for performing density enhancement of the digital image;
A blurred image generating means for generating a blurred image of the object using the digital image on which the density enhancement processing has been performed;
Pattern extraction means for extracting a pattern of a captured image of the object using the blurred image;
Determining means for comparing the pattern extracted by the pattern extracting means with a standard pattern stored in the storage means to determine whether the object imaged by the imaging device is correct;
An image processing apparatus comprising:
撮像装置で撮像された対象物のディジタル画像を入力する画像入力工程と、
上記ディジタル画像の濃度強調を行う濃度強調処理工程と、
上記濃度強調処理が行われた上記ディジタル画像を用いて上記対象物のボケ画像を生成するボケ画像生成工程と、
上記ボケ画像を用いて上記対象物の撮像画像のパターンを抽出するパターン抽出工程と、
上記パターン抽出工程により抽出されたパターンを記憶手段に記憶された上記対象物の撮像画像に対応する標準的な撮像画像のパターンと比較することにより上記撮像装置で撮像された対象物の正誤を判定する判定工程と、
を備えたことを特徴とする画像処理方法。 An image processing method for identifying an object to be imaged by performing predetermined image processing using a captured image,
An image input step of inputting a digital image of the object imaged by the imaging device;
A density enhancement processing step for density enhancement of the digital image;
A blurred image generation step of generating a blurred image of the object using the digital image subjected to the density enhancement processing;
A pattern extraction step of extracting a pattern of a captured image of the object using the blurred image;
By comparing the pattern extracted in the pattern extraction step with a pattern of a standard captured image corresponding to the captured image of the object stored in the storage means, the correctness of the object imaged by the imaging device is determined. A determination step to
An image processing method comprising:
上記撮像手段を上記ワークの所定の撮像位置に設定する位置設定手段と、
上記外部装着部品の撮像画像に対応する標準的な撮像画像のパターンが記憶された記憶手段と、
上記撮像手段で撮像された上記外部装着部品のディジタル画像の濃度強調を行う濃度強調処理手段と、
上記濃度強調処理が行われた上記ディジタル画像を用いて上記外部装着部品のボケ画像を生成するボケ画像生成手段と、
上記ボケ画像を用いて上記外部装着部品の撮像画像のパターンを抽出するパターン抽出手段と、
上記パターン抽出手段により抽出されたパターンを上記記憶手段に記憶された標準的なパターンと比較することにより上記撮像装置で撮像された外部装着部品の正誤を判定する部品判定手段と、
上記部品判定手段の判定結果を視覚可能に出力する出力手段と、
を備えたことを特徴とする誤欠品検査装置。 Imaging means for imaging the externally mounted component of the workpiece having at least one externally mounted component;
Position setting means for setting the imaging means to a predetermined imaging position of the workpiece;
Storage means for storing a standard captured image pattern corresponding to the captured image of the externally mounted component;
Density enhancement processing means for performing density enhancement of a digital image of the externally mounted component imaged by the imaging means;
A blurred image generating means for generating a blurred image of the externally mounted component using the digital image subjected to the density enhancement process;
Pattern extraction means for extracting a pattern of a captured image of the externally mounted component using the blurred image;
Component determining means for comparing the pattern extracted by the pattern extracting means with a standard pattern stored in the storage means to determine the correctness of the externally mounted component imaged by the imaging device;
An output means for outputting the determination result of the component determination means in a visible manner;
A device for inspecting an erroneous product, comprising:
上記撮像装置を上記ワークの所定の撮像位置に設定して上記外部装着部品を撮像する撮像工程と、
上記撮像装置で撮像された上記外部装着部品のディジタル画像の濃度強調を行う濃度強調処理工程と、
上記濃度強調処理が行われた上記ディジタル画像を用いて上記外部装着部品のボケ画像を生成するボケ画像生成工程と、
上記ボケ画像を用いて上記外部装着部品の撮像画像のパターンを抽出するパターン抽出工程と、
上記パターン抽出工程により抽出されたパターンを記憶手段に記憶された上記外部装着部品の撮像画像に対応する標準的な撮像画像のパターンと比較することにより上記撮像装置で撮像された外部装着部品の正誤を判定する部品判定工程と、
上記部品判定工程の判定結果を視覚可能に出力する出力工程と、
を備えたことを特徴とする誤欠品検査方法。 An error in which an externally mounted component of a workpiece having at least one externally mounted component is imaged by an imaging device and the correctness of the component externally mounted on the workpiece is inspected using a captured image output from the imaging device Product inspection method,
An imaging step of setting the imaging device to a predetermined imaging position of the workpiece and imaging the externally mounted component;
A density enhancement processing step for performing density enhancement of the digital image of the externally mounted component imaged by the imaging device;
A blurred image generation step of generating a blurred image of the externally mounted component using the digital image on which the density enhancement processing has been performed;
A pattern extraction step of extracting a pattern of a captured image of the externally mounted component using the blurred image;
By comparing the pattern extracted in the pattern extraction step with a pattern of a standard captured image corresponding to the captured image of the externally mounted component stored in the storage unit, the correctness of the externally mounted component captured by the imaging device is compared. A component determination process for determining
An output process for visually outputting the determination result of the component determination process;
A method for inspecting an erroneous product, characterized by comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003388797A JP3996568B2 (en) | 2003-11-19 | 2003-11-19 | Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003388797A JP3996568B2 (en) | 2003-11-19 | 2003-11-19 | Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2005147973A JP2005147973A (en) | 2005-06-09 |
| JP3996568B2 true JP3996568B2 (en) | 2007-10-24 |
Family
ID=34695731
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003388797A Expired - Fee Related JP3996568B2 (en) | 2003-11-19 | 2003-11-19 | Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3996568B2 (en) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008249413A (en) * | 2007-03-29 | 2008-10-16 | Fujinon Corp | Defect detection method and device |
| JP5189439B2 (en) * | 2008-09-02 | 2013-04-24 | トヨタ自動車株式会社 | Cloth detection apparatus and cloth detection method |
| KR102861901B1 (en) * | 2023-04-07 | 2025-09-19 | 두이엔지 주식회사 | Apparatus for inspecting artificial intelligence-based parts in a three-dimensional manner |
-
2003
- 2003-11-19 JP JP2003388797A patent/JP3996568B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2005147973A (en) | 2005-06-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109100363B (en) | Method and system for distinguishing defects of attached foreign matters from dust | |
| US7916893B2 (en) | Image processing apparatus, image processing method, and program | |
| US8212210B2 (en) | IR camera and method for presenting IR information | |
| JPWO2007074770A1 (en) | Defect inspection equipment that performs defect inspection by image analysis | |
| JPH1019731A (en) | Display screen inspection method | |
| CN106645209B (en) | A kind of detection method and system for key screen printing | |
| CN108700531A (en) | Flaw detection apparatus | |
| JP4242796B2 (en) | Image recognition method and image recognition apparatus | |
| JP4382447B2 (en) | Missing item inspection device | |
| JP2014020926A (en) | Surface defect inspection device and surface defect inspection method | |
| JP3996568B2 (en) | Image processing method, error missing item inspection method, image processing apparatus, and error missing item inspection apparatus | |
| CN111757002B (en) | Image processing method, output control method, image acquisition device and display device | |
| JP4975472B2 (en) | Color filter defect correcting apparatus and color filter defect correcting method | |
| JP4403036B2 (en) | Soot detection method and apparatus | |
| CN117475233A (en) | Detection method, device, equipment and computer storage medium for abnormal status of gland | |
| CN112164058B (en) | Silk screen region coarse positioning method and device for optical filter and storage medium | |
| JP2006145228A (en) | Nonuniformity defect detection method and apparatus | |
| JPH0735699A (en) | Surface defect detection method and apparatus | |
| JP4184133B2 (en) | Image processing device | |
| CN113870242A (en) | Method and device for detecting blind holes | |
| CN113989418B (en) | A method and device for adding tolerance to image assertions in page automation testing | |
| CN116188368B (en) | Product defect detection methods and devices, electronic equipment and storage media | |
| JP2007140703A (en) | Method for reading insurance policy, system thereof, and insurance policy recognition system | |
| JP2003346165A (en) | Work boundary detection method | |
| US20170200383A1 (en) | Automated review of forms through augmented reality |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060530 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070718 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070731 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070802 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120810 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140810 Year of fee payment: 7 |
|
| LAPS | Cancellation because of no payment of annual fees |