Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7779272B2 - Inspection System - Google Patents
[go: Go Back, main page]

JP7779272B2 - Inspection System - Google Patents

Inspection System

Info

Publication number
JP7779272B2
JP7779272B2 JP2023002970A JP2023002970A JP7779272B2 JP 7779272 B2 JP7779272 B2 JP 7779272B2 JP 2023002970 A JP2023002970 A JP 2023002970A JP 2023002970 A JP2023002970 A JP 2023002970A JP 7779272 B2 JP7779272 B2 JP 7779272B2
Authority
JP
Japan
Prior art keywords
image
inspection
bead
camera
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023002970A
Other languages
Japanese (ja)
Other versions
JP2024099202A (en
Inventor
祐介 那須
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2023002970A priority Critical patent/JP7779272B2/en
Priority to CN202410019658.0A priority patent/CN118329895A/en
Publication of JP2024099202A publication Critical patent/JP2024099202A/en
Application granted granted Critical
Publication of JP7779272B2 publication Critical patent/JP7779272B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/01Arrangements or apparatus for facilitating the optical investigation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/01Arrangements or apparatus for facilitating the optical investigation
    • G01N2021/0106General arrangement of respective parts
    • G01N2021/0112Apparatus in one mechanical, optical or electronic block
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8883Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)

Description

本開示は、検査システムに関する。 This disclosure relates to an inspection system.

溶接ビードの異常を検知する技術が知られている(例えば、特許文献1)。特許文献1には、溶接ビードを撮影した画像中の輝度値のばらつきに基づいて、溶接ビードにおける融合不良を検知することが開示されている。 Technology for detecting abnormalities in weld beads is known (for example, see Patent Document 1). Patent Document 1 discloses detecting incomplete fusion in a weld bead based on variations in brightness values in an image of the weld bead.

特開2017-148841号公報Japanese Patent Application Laid-Open No. 2017-148841

ビードには異物が付着することがある。従来、こうしたビードへの異物の付着を異常として判定することは、具体的に検討されていなかった。 Foreign matter can adhere to beads. Until now, there has been no specific consideration of determining whether the adhesion of foreign matter to beads is an abnormality.

本開示は、以下の形態として実現することが可能である。 This disclosure can be realized in the following forms:

(1)本開示の一形態によれば、溶着部を有する柱状部を含むワークを検査する検査システムが提供される。この検査システムは、前記溶着部におけるビードの外観が撮影された画像を、検査用画像として取得する画像取得部と、前記検査用画像における前記ビード上のボイドの有無を判定する第1検査部と、前記検査用画像に含まれるエッジを検出することによって、前記検査用画像における前記ビード上の異物の有無を判定する第2検査部と、前記検査用画像に前記ボイドと前記異物との少なくとも一方が含まれる場合に、前記ワークに異常があると判定する判定部と、を備える。
このような形態であれば、第1検査部によって検査用画像におけるボイドの有無を判定でき、かつ、第2検査部によって検査用画像に含まれるエッジに基づいて異物の有無を判定できる。そして、学習用画像にボイドと異物とのいずれが含まれる場合でもワークに異常があると判定される。そのため、ボイドに加え、ビードへの異物の付着を異常として判定できる。
(2)上記形態では、前記第1検査部は、前記第1検査部は、前記ビードの外観が撮影された複数の学習用画像を用いて学習済みの機械学習モデルであって、前記機械学習モデルに入力される画像に前記ボイドが含まれるか否かを判定するための機械学習モデル、を用いて前記ボイドの有無を判定してもよい。このような形態であれば、第1検査部によって、機械学習モデルを用いてボイドの有無を判定できる。
(3)上記形態では、前記ビードの外観の一部を撮影する第1カメラと、前記ビードの前記一部を撮影する第2カメラであって、前記第1カメラが前記一部を撮影する角度とは異なる角度で、前記一部を撮影する第2カメラと、を備え、前記機械学習モデルは、前記第1カメラによって前記ビードの外観が撮影された画像と、前記第2カメラによって前記ビードの外観が撮影された画像と、を前記学習用画像として用いて学習済みであってもよい。このような形態であれば、例えば、第1カメラによって撮影された画像のみや第2カメラによって撮影された画像のみを機械学習に用いる場合と比較して、学習用画像の不足を抑制できる。
(4)上記形態では、前記画像取得部は、前記第1カメラによって検査対象である前記溶着部の前記ビードの外観が撮影された第1画像と、前記第2カメラによって前記検査対象である前記溶着部の前記ビードの外観が撮影された第2画像と、をそれぞれ前記検査用画像として取得し、前記判定部は、前記第1画像と前記第2画像との少なくとも一方に、前記ボイドと前記異物との少なくとも一方が含まれる場合に、前記ワークに異常があると判定してもよい。このような形態によれば、例えば、第1カメラによって撮影された画像と第2カメラによって撮影された画像との一方のみに基づいてボイドや異物の有無を判定する場合と比較して、ワークをより精密に検査できる。
(5)上記形態では、前記第2検査部は、前記検査用画像における、エッジの角度と、エッジの座標と、エッジの間隔と、エッジの強度と、の少なくともいずれかに基づいて、前記検査用画像における前記異物の有無を判定してもよい。
(1) According to one aspect of the present disclosure, there is provided an inspection system for inspecting a workpiece including a columnar portion having a welded portion, the inspection system including: an image acquisition unit that acquires an image of the appearance of a bead in the welded portion as an inspection image; a first inspection unit that determines whether or not a void exists on the bead in the inspection image; a second inspection unit that determines whether or not a foreign matter exists on the bead in the inspection image by detecting an edge included in the inspection image; and a determination unit that determines whether or not an abnormality exists in the workpiece when at least one of the void and the foreign matter is included in the inspection image.
In this configuration, the first inspection unit can determine the presence or absence of voids in the inspection image, and the second inspection unit can determine the presence or absence of foreign matter based on edges contained in the inspection image. The workpiece is determined to be abnormal if either a void or a foreign matter is contained in the learning image. Therefore, in addition to voids, the adhesion of foreign matter to the bead can also be determined to be abnormal.
(2) In the above aspect, the first inspection unit may determine the presence or absence of a void using a machine learning model that has been trained using a plurality of training images of the appearance of the bead, the machine learning model being for determining whether or not the void is included in an image input to the machine learning model. In this aspect, the first inspection unit can determine the presence or absence of a void using the machine learning model.
(3) In the above aspect, a first camera may be provided that captures an image of a portion of the bead's appearance, and a second camera that captures the image of the portion of the bead at an angle different from the angle at which the first camera captures the image of the portion. The machine learning model may have been trained using, as the training images, images of the bead's appearance captured by the first camera and images of the bead's appearance captured by the second camera. With this aspect, it is possible to reduce the shortage of training images compared to, for example, a case where only images captured by the first camera or only images captured by the second camera are used for machine learning.
(4) In the above embodiment, the image acquisition unit may acquire, as the inspection images, a first image of the appearance of the bead of the welded portion to be inspected taken by the first camera and a second image of the appearance of the bead of the welded portion to be inspected taken by the second camera, and the determination unit may determine that the workpiece has an abnormality if at least one of the first image and the second image contains at least one of the void and the foreign matter. According to this embodiment, the workpiece can be inspected more precisely than, for example, when determining the presence or absence of a void or foreign matter based on only one of the image taken by the first camera and the image taken by the second camera.
(5) In the above embodiment, the second inspection unit may determine the presence or absence of the foreign matter in the inspection image based on at least one of the angle of the edge, the coordinates of the edge, the spacing between the edges, and the strength of the edge in the inspection image.

本開示は、上述した検査システムとしての形態以外にも、例えば、ワークの検査方法などの種々の形態で実現することが可能である。 In addition to the inspection system described above, the present disclosure can be realized in various forms, such as a workpiece inspection method.

検査システムの概略構成を示す説明図である。FIG. 1 is an explanatory diagram showing a schematic configuration of an inspection system. ワークが製造される様子を示す説明図である。FIG. 2 is an explanatory diagram showing how a workpiece is manufactured. 撮影画像の例を示す第1の説明図である。FIG. 10 is a first explanatory diagram showing an example of a captured image. 撮影画像の例を示す第2の説明図である。FIG. 10 is a second explanatory diagram showing an example of a captured image. 撮影画像の例を示す第3の説明図である。FIG. 10 is a third explanatory diagram showing an example of a captured image. 検査処理のフローチャートである。10 is a flowchart of an inspection process.

A.第1実施形態:
図1は、検査システム100の概略構成を示す説明図である。検査システム100は、溶着部WPを有する柱状部CPを含むワークWを検査する。本実施形態の検査システム100は、撮影ユニット110と、記憶装置130と、制御装置140と、検査装置150と、報知部160とを備える。なお、本明細書において、「柱状」の意味は、中実の柱状のみならず、中空の柱状をも含む。
A. First embodiment:
1 is an explanatory diagram showing a schematic configuration of an inspection system 100. The inspection system 100 inspects a workpiece W including a columnar portion CP having a welded portion WP. The inspection system 100 of this embodiment includes a photographing unit 110, a storage device 130, a control device 140, an inspection device 150, and an alarm unit 160. In this specification, the term "columnar" includes not only a solid columnar shape but also a hollow columnar shape.

本実施形態におけるワークWは、樹脂材料によって形成され、水素を貯蔵するタンクのライナとして構成されている。ライナは、その内部に水素ガス等を貯留するための中空容器であり、略円筒形状の胴部P1と、胴部P1の両端に接続された一対のドーム部P2とを有する。本実施形態における柱状部CPは、胴部P1の全部と、ドーム部P2の一部とによって構成されている。各ドーム部P2は、柱状部CPの中心軸である軸AXに沿った軸方向において、ワークWの外側に向かって凸の略半球形状である。各ドーム部P2の頂点部には開口部が形成されており、開口部には口金Mが嵌め込まれている。ワークW内の中空部は、口金Mを介して外部と連通する。本実施形態では、胴部P1の中心軸と、各ドーム部P2の中心軸とは、軸AXに略一致する。従って、ワークWの中心軸は、軸AXに一致する。 In this embodiment, the workpiece W is made of a resin material and configured as a liner for a tank that stores hydrogen. The liner is a hollow container for storing hydrogen gas or the like. It has a generally cylindrical body P1 and a pair of dome portions P2 connected to both ends of the body P1. In this embodiment, the columnar portion CP is composed of the entire body P1 and a portion of the dome portion P2. Each dome portion P2 has a generally hemispherical shape that convex toward the outside of the workpiece W in the axial direction along the axis AX, which is the central axis of the columnar portion CP. An opening is formed at the apex of each dome portion P2, and a nozzle M is fitted into the opening. The hollow portion within the workpiece W is connected to the outside via the nozzle M. In this embodiment, the central axis of the body P1 and the central axis of each dome portion P2 are generally aligned with the axis AX. Therefore, the central axis of the workpiece W is aligned with the axis AX.

本実施形態では、ワークWは、回転装置(図示せず)に接続されており、回転装置の駆動によって軸AX回りに回転する。回転装置は、例えば、ワークWに付与される回転駆動力を発生させるモータを有し、制御装置140による制御下で駆動する。 In this embodiment, the workpiece W is connected to a rotation device (not shown) and rotates around axis AX by driving the rotation device. The rotation device has, for example, a motor that generates a rotational driving force that is applied to the workpiece W, and is driven under the control of the control device 140.

図2は、本実施形態におけるワークWが製造される様子を示す説明図である。図2に示すように、ワークWは、胴部P1と各ドーム部P2とが赤外線溶着によって互いに接合されることで製造される。より詳細には、まず、円筒部材P1aと2つのドーム部材P2aとを準備する。円筒部材P1aは、後に胴部P1を構成する部材である。ドーム部材P2aは、後に各ドーム部P2を構成する部材である。次に、図2の上段に示すように、胴部P1の両端部と、各ドーム部材P2aの円筒部材P1a側の端部とを、赤外線ランプLによって加熱する。次に、図2の中段に示すように、円筒部材P1aの各端と、各ドーム部材P2aの円筒部材P1a側の端とが密着するように、円筒部材P1aと各ドーム部材P2aとを接触させる。その後、図2の下段に示すように、各ドーム部材P2aを外側から円筒部材P1aに押し付けることで、円筒部材P1aと各ドーム部材P2aとの間を溶着によって接合する。 Figure 2 is an explanatory diagram showing how the workpiece W is manufactured in this embodiment. As shown in Figure 2, the workpiece W is manufactured by joining the body portion P1 and each dome portion P2 to each other by infrared welding. More specifically, first, a cylindrical member P1a and two dome members P2a are prepared. The cylindrical member P1a is a member that will later constitute the body portion P1. The dome members P2a are a member that will later constitute each dome portion P2. Next, as shown in the upper part of Figure 2, both ends of the body portion P1 and the ends of each dome member P2a facing the cylindrical member P1a are heated by infrared lamps L. Next, as shown in the middle part of Figure 2, the cylindrical member P1a and each dome member P2a are brought into contact so that each end of the cylindrical member P1a and the end of each dome member P2a facing the cylindrical member P1a are in tight contact with each other. Then, as shown in the lower part of Figure 2, each dome member P2a is pressed against the cylindrical member P1a from the outside, thereby joining the cylindrical member P1a and each dome member P2a by welding.

上記の溶着によって、溶着部WPを有する柱状部CPが形成される。より詳細には、胴部P1と各ドーム部P2との間に、胴部P1と各ドーム部P2とを繋ぎ、ワークWの周方向に沿って延びる溶着部WPが形成される。各溶着部WPは、ビードBdを有している。ビードBdは、周方向に沿って延びる溶着痕である。ビードBdは、その周辺の部位よりも盛り上がった形状であり、ワークWの内側に向かって突出した内側部分Bp1と、外側に向かって突出した外側部分Bp2とを有している。 The above welding forms a columnar portion CP having a welded portion WP. More specifically, a welded portion WP is formed between the body portion P1 and each dome portion P2, connecting the body portion P1 and each dome portion P2 and extending along the circumferential direction of the workpiece W. Each welded portion WP has a bead Bd. The bead Bd is a welding mark that extends along the circumferential direction. The bead Bd is raised higher than its surrounding areas, and has an inner portion Bp1 that protrudes toward the inside of the workpiece W, and an outer portion Bp2 that protrudes toward the outside.

撮影ユニット110は、撮影部111と、カメラコントローラ116とを有している。撮影部111は、溶着部WPを撮影することで、溶着部WPのビードBdの外観を撮影する。より詳細には、本実施形態における撮影部111は、ビードBdの内側部分Bp1の外観を撮影する。他の実施形態では、撮影部111は、内側部分Bp1に加えて、または、内側部分Bp1に代えて、外側部分Bp2を撮影してもよい。 The photographing unit 110 includes a photographing unit 111 and a camera controller 116. The photographing unit 111 photographs the welded portion WP to photograph the appearance of the bead Bd of the welded portion WP. More specifically, in this embodiment, the photographing unit 111 photographs the appearance of the inner portion Bp1 of the bead Bd. In other embodiments, the photographing unit 111 may photograph the outer portion Bp2 in addition to or instead of the inner portion Bp1.

撮影部111は、第1カメラ112と、第2カメラ113と、軸部114とを有している。軸部114は、軸状を有しており、口金Mを介してワークW内に挿入される。第1カメラ112と第2カメラ113とは、それぞれ、軸部114に固定されており、軸部114とともにワークW内に挿入される。なお、第1カメラ112や第2カメラ113は、例えば、ファイバースコープやボアスコープ等の内視鏡カメラとして構成されてもよい。 The photographing unit 111 has a first camera 112, a second camera 113, and a shaft 114. The shaft 114 is axially shaped and is inserted into the workpiece W via a nozzle M. The first camera 112 and the second camera 113 are each fixed to the shaft 114 and are inserted into the workpiece W together with the shaft 114. The first camera 112 and the second camera 113 may be configured as an endoscopic camera such as a fiberscope or borescope, for example.

第1カメラ112と第2カメラ113とは、ビードBdの外観の一部を撮影する。第2カメラ113は、ビードBdのうち、第1カメラ112によって撮影される部分を、第1カメラ112が当該部分を撮影する角度とは異なる角度で撮影する。 The first camera 112 and the second camera 113 capture images of a portion of the exterior of the bead Bd. The second camera 113 captures the portion of the bead Bd captured by the first camera 112 at an angle different from the angle at which the first camera 112 captures that portion.

図1には、第1カメラ112と第2カメラ113とが、ビードBdの第1部分Pt1を撮影する様子が示されている。第1部分Pt1は、ビードBdの周方向における一部である。図1に示すように、本実施形態では、第1カメラ112と第2カメラ113とは、それぞれ、ビードBdを撮影する際に、軸方向において、撮影対象であるビードBdを間に挟む位置に配置される。より詳細には、第1カメラ112と第2カメラ113とは、撮影対象であるビードBdを挟んで軸方向に略対称となるように配置されている。第1カメラ112は、第1方向d1を向くように配置されており、ビードBdの内側部分Bp1を、軸方向における一方側から撮影する。第2カメラ113は、第2方向d2を向くように配置されており、第1カメラ112とともに、ビードBdの内側部分Bp1を、軸方向における他方側から撮影する。第1方向d1と第2方向d2とは、軸方向においては互いに逆向きであり、軸方向に垂直な平面上では略同じ向きである。より詳細には、第1方向d1は、第1カメラ112から第2カメラ113に向かい、かつ、柱状部CPの中心部から外周へと向かう方向である。第2方向d2は、第2カメラ113から第1カメラ112に向かい、かつ、柱状部CPの中心部から外周へと向かう方向である。以下では、ビードBdの外観が撮影された画像のことを撮影画像Piとも呼ぶ。また、第1カメラ112によって撮影された撮影画像Piのことを第1撮影画像とも呼び、第2カメラ113によって撮影された撮影画像Piのことを第2撮影画像とも呼ぶ。 Figure 1 shows the first camera 112 and the second camera 113 photographing a first portion Pt1 of the bead Bd. The first portion Pt1 is a circumferential portion of the bead Bd. As shown in Figure 1, in this embodiment, the first camera 112 and the second camera 113 are positioned in the axial direction to sandwich the bead Bd, which is the subject of the photograph, between them when photographing the bead Bd. More specifically, the first camera 112 and the second camera 113 are positioned approximately symmetrically in the axial direction across the bead Bd, which is the subject of the photograph. The first camera 112 is positioned to face the first direction d1 and photographs the inner portion Bp1 of the bead Bd from one side in the axial direction. The second camera 113 is positioned to face the second direction d2 and, together with the first camera 112, photographs the inner portion Bp1 of the bead Bd from the other side in the axial direction. The first direction d1 and the second direction d2 are opposite to each other in the axial direction but are substantially the same on a plane perpendicular to the axial direction. More specifically, the first direction d1 is the direction from the first camera 112 to the second camera 113 and from the center of the columnar portion CP to the outer periphery. The second direction d2 is the direction from the second camera 113 to the first camera 112 and from the center of the columnar portion CP to the outer periphery. Hereinafter, an image capturing the appearance of the bead Bd will also be referred to as a captured image Pi. Furthermore, the captured image Pi captured by the first camera 112 will also be referred to as a first captured image, and the captured image Pi captured by the second camera 113 will also be referred to as a second captured image.

本実施形態では、軸部114には、撮影対象であるビードBdを照明する照明装置115が固定されている。本実施形態における照明装置115は、軸方向において第1カメラ112と第2カメラ113との間に配置されており、軸方向と垂直な方向に沿ってビードBdに光を照射することで、ビードBdを照明する。 In this embodiment, an illumination device 115 that illuminates the bead Bd, which is the subject of imaging, is fixed to the shaft portion 114. In this embodiment, the illumination device 115 is disposed between the first camera 112 and the second camera 113 in the axial direction, and illuminates the bead Bd by irradiating it with light in a direction perpendicular to the axial direction.

なお、図1には、撮影部111が2つのビードBdのうち一方を撮影する様子が示されている。図示は省略するが、本実施形態では、撮影部111は、他方のビードBdをも撮影可能に構成されている。より詳細には、本実施形態では、第1カメラ112や第2カメラ113の挿入位置が制御装置140による制御下で変更可能に構成されており、撮影対象が変更される場合に、第1カメラ112や第2カメラ113の挿入位置が撮影対象のビードBdの位置に対応するように変更される。 Note that Figure 1 shows the image capturing unit 111 capturing an image of one of the two beads Bd. Although not shown, in this embodiment, the image capturing unit 111 is configured to be able to capture an image of the other bead Bd as well. More specifically, in this embodiment, the insertion positions of the first camera 112 and the second camera 113 are configured to be changeable under the control of the control device 140, and when the object to be captured is changed, the insertion positions of the first camera 112 and the second camera 113 are changed to correspond to the position of the bead Bd to be captured.

カメラコントローラ116は、例えば、撮影部111に備えられた各カメラを制御するための回路やコンピュータとして構成され、各カメラに接続されている。カメラコントローラ116は、例えば、各カメラへの撮影トリガ信号の送信や、各カメラによって撮影された撮影画像Piの受信を行う。カメラコントローラ116によって受信された撮影画像Piは、記憶装置130へと送信され、記憶装置130に記憶される。本実施形態における記憶装置130は、ネットワークを介して検査装置150と接続されるNAS(Network Attached Storage)である。 The camera controller 116 is configured, for example, as a circuit or computer for controlling each camera provided in the imaging unit 111, and is connected to each camera. The camera controller 116, for example, sends an imaging trigger signal to each camera and receives images Pi captured by each camera. The captured images Pi received by the camera controller 116 are sent to the storage device 130 and stored in the storage device 130. In this embodiment, the storage device 130 is a NAS (Network Attached Storage) connected to the inspection device 150 via a network.

図3から図5は、それぞれ、撮影画像Piの例を示す説明図である。図3に示した画像Pi1は、その表面にボイドVdと異物Fsとを含まないビードBdを含む撮影画像Piの例である。図4に示した画像Pi2は、ボイドVdを含み、異物Fsを含まない撮影画像Piの例である。図5に示した画像Pi3は、異物Fsを含み、ボイドVdを含まない撮影画像Piの例である。図3から図5では、ビードBdにハッチングが付されている。より詳細には、ビードBdのうち、白飛びHLが生じている部分には、右上がりのハッチングが付されている。ビードBdのうち、ボイドVdが生じている部分には、縦のハッチングが付されている。ビードBdのうち、白飛びHLおよびボイドVdが生じていない部分には、点模様のハッチングが付されている。本実施形態では、図3から図5に示すように、撮影画像Piは、ビードBdが撮影画像Piの縦方向における中央部を横断するように撮影される。 Figures 3 to 5 are explanatory diagrams each showing an example of a captured image Pi. Image Pi1 shown in Figure 3 is an example of a captured image Pi including a bead Bd that does not contain voids Vd or foreign matter Fs on its surface. Image Pi2 shown in Figure 4 is an example of a captured image Pi that includes voids Vd but does not contain foreign matter Fs. Image Pi3 shown in Figure 5 is an example of a captured image Pi that includes foreign matter Fs but does not contain voids Vd. In Figures 3 to 5, the bead Bd is hatched. More specifically, portions of the bead Bd where blown-out highlights HL occur are hatched with an upward sloping pattern. Portions of the bead Bd where voids Vd occur are hatched vertically. Portions of the bead Bd where blown-out highlights HL and voids Vd do not occur are hatched with a dotted pattern. In this embodiment, as shown in Figures 3 to 5, the captured image Pi is captured so that the bead Bd crosses the center of the captured image Pi in the vertical direction.

図4や図5に示すように、ビードBd上には、ボイドVdが形成されることや、異物Fsが付着することがある。図4に示したボイドVdは、ビードBd表面における穴状の欠陥であり、例えば、円筒部材P1aやドーム部材P2aに含まれる水分が溶着時に蒸発することによって生じる。図5に示した異物Fsは、線状の異物であり、例えば、繊維や毛髪である。本実施形態では、こうした異物Fsは、例えば、静電気によってビードBd表面に付着する。なお、白飛びHLは、例えば、照明装置115からビードBdに照射された光の反射に起因して、撮影画像Piにおいて輝度が高くなることで生じる。 As shown in Figures 4 and 5, voids Vd may form on the bead Bd, or foreign matter Fs may adhere to the bead Bd. The voids Vd shown in Figure 4 are hole-shaped defects on the surface of the bead Bd, and are formed, for example, when moisture contained in the cylindrical member P1a or the dome member P2a evaporates during welding. The foreign matter Fs shown in Figure 5 is linear foreign matter, such as fibers or hair. In this embodiment, such foreign matter Fs adheres to the surface of the bead Bd due to, for example, static electricity. Note that blown-out highlights HL occur when the brightness in the captured image Pi increases due to, for example, reflection of light irradiated onto the bead Bd from the lighting device 115.

制御装置140は、CPU141と記憶部142と入出力インターフェイスとを備えるコンピュータとして構成されている。CPU141は、記憶部142に記憶されたプログラムを実行することにより、検査制御部143としての機能を含む各種機能を制御装置140に実現させる。検査制御部143は、後述する検査処理を実行する。なお、他の実施形態では、制御装置140が、例えば、PLC(Programmable Logic Controller)によって構成されてもよい。また、制御装置140の機能が回路によって実現されてもよい。 The control device 140 is configured as a computer including a CPU 141, a memory unit 142, and an input/output interface. The CPU 141 executes programs stored in the memory unit 142, causing the control device 140 to perform various functions, including the function of the inspection control unit 143. The inspection control unit 143 executes the inspection process described below. In other embodiments, the control device 140 may be configured, for example, by a PLC (Programmable Logic Controller). The functions of the control device 140 may also be realized by a circuit.

検査装置150は、CPU151と記憶部152と入出力インターフェイスとを備えるコンピュータとして構成されている。本実施形態では、記憶部152には、後述する機械学習モデル200や、エッジ検出プログラム205が記憶されている。 The inspection device 150 is configured as a computer equipped with a CPU 151, a memory unit 152, and an input/output interface. In this embodiment, the memory unit 152 stores a machine learning model 200 (described below) and an edge detection program 205.

検査装置150は、第1検査部155、第2検査部156、画像取得部157および判定部158を有する。本実施形態では、第1検査部155、第2検査部156、画像取得部157および判定部158は、それぞれ、CPU151が記憶部152に記憶されたプログラムを実行することによって実現される機能部である。 The inspection device 150 has a first inspection unit 155, a second inspection unit 156, an image acquisition unit 157, and a determination unit 158. In this embodiment, the first inspection unit 155, the second inspection unit 156, the image acquisition unit 157, and the determination unit 158 are each functional units realized by the CPU 151 executing a program stored in the memory unit 152.

画像取得部157は、撮影画像Piを検査用画像Diとして取得する。本実施形態における画像取得部157は、記憶装置130に記憶された第1撮影画像と第2撮影画像とを検査用画像Diとして取得する。より詳細には、画像取得部157は、第1画像と第2画像とを取得する。第1画像とは、第1カメラ112によって検査対象である溶着部WPのビードBdの外観が撮影された第1撮影画像のことを指す。第2画像とは、第2カメラ113によって同様に検査対象である溶着部WPのビードBdの外観が撮影された第2撮影画像のことを指す。 The image acquisition unit 157 acquires the captured image Pi as the inspection image Di. In this embodiment, the image acquisition unit 157 acquires the first captured image and the second captured image stored in the storage device 130 as the inspection image Di. More specifically, the image acquisition unit 157 acquires the first image and the second image. The first image refers to the first captured image captured by the first camera 112 of the appearance of the bead Bd of the welded portion WP, which is the object of inspection. The second image refers to the second captured image captured by the second camera 113 of the appearance of the bead Bd of the welded portion WP, which is also the object of inspection.

第1検査部155は、画像取得部157によって取得された検査用画像Diに基づいて、ビードBd上のボイドVdの有無を判定する。本実施形態における第1検査部155は、機械学習モデル200と検査用画像Diとを用いてボイドVdの有無を判定する。機械学習モデル200は、ビードBdの外観が撮影された複数の学習用画像を用いて学習済みの、機械学習モデル200への入力画像にボイドVdが含まれるか否かを判定するための学習モデルである。本実施形態では、学習用画像は、過去に撮影された第1撮影画像および第2撮影画像を含んでいる。また、本実施形態における機械学習モデル200は、教師データを用いた教師あり学習によって、ビードBdにボイドVdが含まれるか否かに関して学習済みの畳み込みニューラルネットワークである。この教師データは、各学習用画像と、ボイドVdの有無を表すラベルとが互いに関連付けられたデータセットによって構成される。 The first inspection unit 155 determines the presence or absence of voids Vd on the bead Bd based on the inspection image Di acquired by the image acquisition unit 157. In this embodiment, the first inspection unit 155 determines the presence or absence of voids Vd using a machine learning model 200 and the inspection image Di. The machine learning model 200 is a learning model that has been trained using multiple training images of the appearance of the bead Bd and is used to determine whether voids Vd are included in an input image to the machine learning model 200. In this embodiment, the training images include a first captured image and a second captured image that were previously captured. Furthermore, in this embodiment, the machine learning model 200 is a convolutional neural network that has been trained regarding whether voids Vd are included in the bead Bd through supervised learning using training data. This training data is composed of a data set in which each training image is associated with a label indicating the presence or absence of voids Vd.

なお、検査用画像DiにおけるビードBdの撮影角度と、学習用画像におけるビードBdの撮影角度とは異なっていてもよい。例えば、第1画像におけるビードBdの撮影角度と、学習用画像として用いられる第1撮影画像や第2撮影画像におけるビードBdの撮影角度とが異なっていてもよい。同様に、第2画像におけるビードBdの撮影角度と、学習用画像として用いられる第1撮影画像や第2撮影画像におけるビードBdの撮影角度とが異なっていてもよい。 The shooting angle of the bead Bd in the inspection image Di may be different from the shooting angle of the bead Bd in the learning image. For example, the shooting angle of the bead Bd in the first image may be different from the shooting angle of the bead Bd in the first and second captured images used as learning images. Similarly, the shooting angle of the bead Bd in the second image may be different from the shooting angle of the bead Bd in the first and second captured images used as learning images.

第2検査部156は、エッジ検出プログラム205を実行することによって、検査用画像Diに含まれるエッジを検出することで、ビードBd上の異物Fsの有無を判定する。エッジ検出プログラム205は、エッジ検出アルゴリズムを用いて検査用画像Diに含まれるエッジを検出するためのプログラムである。 The second inspection unit 156 executes the edge detection program 205 to detect edges contained in the inspection image Di, thereby determining the presence or absence of foreign matter Fs on the bead Bd. The edge detection program 205 is a program for detecting edges contained in the inspection image Di using an edge detection algorithm.

本実施形態における第2検査部156は、検査用画像Diにおける、エッジの角度、エッジの座標、エッジの間隔およびエッジの強度に基づいて、異物Fsの有無を判定する。より詳細には、第2検査部156は、上記に基づいて、ビードBdを表すエッジと異なり、かつ、白飛びHLを表すエッジと異なるエッジを検出することで、検査用画像Diにおける異物Fsの有無を判定する。なお、エッジの強度とは、画素の輝度の変化の大きさのことを指す。例えば、本実施形態では、図3から図5に示すように、ビードBdや白飛びHLを表すエッジは、全体として撮影画像Piにおける横軸に沿っており、かつ、撮影画像Piの縦方向における中央部で検出され、かつ、そのエッジ同士の間隔が比較的広く、かつ、その強度が比較的小さい。そのため、本実施形態では、第2検査部156は、以下の判定条件を満たすエッジを、ビードBdや白飛びHLを表すエッジとは異なるエッジとして検出する。判定条件は、検査用画像Diにおける横軸に対するエッジの傾きの大きさが予め定められた傾きの閾値よりも大きく、かつ、エッジの縦方向における座標が予め定められた中央部の座標よりも外側にあり、かつ、近接するエッジ同士の間隔が予め定められた間隔の閾値よりも狭く、かつ、エッジの強度が予め定められた強度の閾値よりも強いことである。 In this embodiment, the second inspection unit 156 determines the presence or absence of a foreign substance Fs based on the edge angle, edge coordinates, edge spacing, and edge strength in the inspection image Di. More specifically, the second inspection unit 156 determines the presence or absence of a foreign substance Fs in the inspection image Di by detecting edges that differ from edges representing beads Bd and from edges representing blown-out highlights HL based on the above. Note that edge strength refers to the magnitude of change in pixel brightness. For example, in this embodiment, as shown in Figures 3 to 5, edges representing beads Bd and blown-out highlights HL are generally aligned along the horizontal axis of the captured image Pi, are detected in the vertical center of the captured image Pi, are relatively widely spaced apart, and have relatively low strength. Therefore, in this embodiment, the second inspection unit 156 detects edges that satisfy the following determination conditions as edges that differ from edges representing beads Bd and blown-out highlights HL: The criteria for determination are that the slope of the edge relative to the horizontal axis in the test image Di is greater than a predetermined slope threshold, the vertical coordinate of the edge is outside the predetermined central coordinate, the distance between adjacent edges is narrower than a predetermined distance threshold, and the edge strength is greater than a predetermined strength threshold.

判定部158は、検査用画像DiにボイドVdと異物Fsとの少なくとも一方が含まれる場合に、ワークWに異常があると判定する。つまり、判定部158は、第1検査部155によってボイドVdが含まれると判定された場合と、第2検査部156によって異物Fsが含まれると判定された場合とのいずれにおいてもワークWに異常があると判定する。 The determination unit 158 determines that the workpiece W has an abnormality when the inspection image Di contains at least one of a void Vd and a foreign matter Fs. In other words, the determination unit 158 determines that the workpiece W has an abnormality both when the first inspection unit 155 determines that the workpiece W contains a void Vd and when the second inspection unit 156 determines that the workpiece W contains a foreign matter Fs.

報知部160は、制御装置140による制御下で、ユーザに、例えば、検査システム100やワークWに関する各種情報を報知する。本実施形態では、報知部160は、制御装置140による制御下で視覚情報を表示する表示装置として構成されている。報知部160は、例えば、このような表示装置に加えて、または、表示装置に代えて、音声情報を出力するためのスピーカを有していてもよい。 Under the control of the control device 140, the notification unit 160 notifies the user of various information, for example, related to the inspection system 100 and the workpiece W. In this embodiment, the notification unit 160 is configured as a display device that displays visual information under the control of the control device 140. For example, in addition to or instead of such a display device, the notification unit 160 may have a speaker for outputting audio information.

図6は、検査処理のフローチャートである。本実施形態では、検査処理は、例えば、第1カメラ112や第2カメラ113がワークW内に配置された状態で、制御装置140に対してユーザによる所定の開始操作が行われた場合に実行される。本実施形態では、図6に示したステップS10およびステップS70は、制御装置140によって実行され、ステップS20からステップS60は、検査装置150によって実行される。 Figure 6 is a flowchart of the inspection process. In this embodiment, the inspection process is executed, for example, when the first camera 112 and the second camera 113 are positioned within the workpiece W and a predetermined start operation is performed by the user on the control device 140. In this embodiment, steps S10 and S70 shown in Figure 6 are executed by the control device 140, and steps S20 to S60 are executed by the inspection device 150.

ステップS10にて、検査制御部143は、撮影ユニット110を用いて、検査対象である溶着部WPのビードBdの外観を撮影する。本実施形態では、制御装置140は、ステップS10において、ワークWを予め定められた単位角度ずつ軸AX回りに回転させることと、ワークWの回転を停止させて、第1カメラ112と第2カメラ113とによって一方のビードBdを撮影することとを、ワークWが軸AX回りに1回転するまで交互に繰り返す。その後、検査制御部143は、同様に、他方のビードBdを撮影する。こうすることで、一方のビードBdが撮影された複数の第1画像および複数の第2画像と、他方のビードBdが撮影された複数の第1画像および複数の第2画像とが得られる。単位角度は、例えば、ステップS10でワークWを軸AX回りに一回転させる間に、ビードBdの周方向における全ての部分を撮影できる程度に小さい角度に定められると好ましい。得られた各撮影画像Piは、記憶装置130に送信される。 In step S10, the inspection control unit 143 uses the photographing unit 110 to photograph the appearance of the bead Bd of the welded portion WP to be inspected. In this embodiment, in step S10, the control device 140 alternately rotates the workpiece W around the axis AX by a predetermined unit angle, stops the rotation of the workpiece W, and photographs one of the beads Bd using the first camera 112 and the second camera 113, until the workpiece W has rotated once around the axis AX. The inspection control unit 143 then photographs the other bead Bd in a similar manner. In this manner, multiple first images and multiple second images of one of the beads Bd and multiple first images and multiple second images of the other bead Bd are obtained. For example, it is preferable that the unit angle be set to an angle small enough to photograph all of the circumferential portions of the bead Bd during one rotation of the workpiece W around the axis AX in step S10. Each captured image Pi is sent to the storage device 130.

ステップS20にて、画像取得部157は、検査用画像Diとして、ステップS10で撮影された撮影画像Piのうち1枚を記憶装置130から取得する。 In step S20, the image acquisition unit 157 acquires one of the captured images Pi captured in step S10 from the storage device 130 as the test image Di.

ステップS30にて、第1検査部155は、ステップS20で取得された検査用画像DiにおけるビードBd上のボイドVdの有無を判定する。 In step S30, the first inspection unit 155 determines whether or not there is a void Vd on the bead Bd in the inspection image Di acquired in step S20.

ステップS30で検査用画像diにボイドVdが含まれると判定した場合、第1検査部155は、ステップS32にて、ステップS30で用いた検査用画像Diのボイド情報を記録する。ボイド情報とは、検査用画像DiにおけるボイドVdの有無に関する情報である。第1検査部155は、ステップS32では、ステップS30で用いた検査用画像Diのボイド情報として、ボイドVdを含むことを表す情報を記憶装置130に記録する。なお、ボイド情報は、例えば、記憶部142や記憶部152に記録されてもよい。ステップS30でボイドVdが含まれないと判定した場合、第1検査部155は、ステップS34にて、検査用画像Diのボイド情報として、ボイドVdを含まないことを表す情報を、ステップS32と同様に記録する。 If it is determined in step S30 that the test image di contains voids Vd, then in step S32 the first inspection unit 155 records void information for the test image Di used in step S30. Void information is information regarding the presence or absence of voids Vd in the test image Di. In step S32, the first inspection unit 155 records information indicating that the test image Di contains voids Vd in the storage device 130 as void information for the test image Di used in step S30. Note that the void information may be recorded in, for example, the storage unit 142 or the storage unit 152. If it is determined in step S30 that the test image Di does not contain voids Vd, then in step S34 the first inspection unit 155 records information indicating that the test image Di does not contain voids Vd as void information for the test image Di, in the same manner as in step S32.

ステップS40にて、第2検査部156は、ステップS30で取得された検査用画像DiにおけるビードBd上の異物Fsの有無を判定する。 In step S40, the second inspection unit 156 determines whether or not there is a foreign object Fs on the bead Bd in the inspection image Di acquired in step S30.

ステップS40で検査用画像diに異物Fsが含まれると判定した場合、第2検査部156は、ステップS42にて、ステップS40で用いた検査用画像Diの異物情報を記録する。異物情報とは、検査用画像Diにおける異物Fsの有無に関する情報である。ステップS42では、異物情報として、異物Fsを含むことを表す情報がステップS32と同様に記録される。ステップS40でボイドVdが含まれないと判定した場合、第2検査部156は、ステップS44にて、検査用画像Diの異物情報として、異物Fsを含まないことを表す情報をステップS42と同様に記録する。 If it is determined in step S40 that the inspection image di contains a foreign substance Fs, the second inspection unit 156 records foreign substance information for the inspection image Di used in step S40 in step S42. Foreign substance information is information regarding the presence or absence of a foreign substance Fs in the inspection image Di. In step S42, information indicating that a foreign substance Fs is contained is recorded as foreign substance information, similar to step S32. If it is determined in step S40 that a void Vd is not contained, the second inspection unit 156 records information indicating that a foreign substance Fs is not contained as foreign substance information for the inspection image Di in step S44, similar to step S42.

ステップS50にて、検査装置150は、ステップS10で撮影された全ての撮影画像Piが検査用画像Diとして取得されたか否かを判定する。検査用画像Diとして取得されていない撮影画像Piが残っている場合、検査装置150は、ステップS20に処理を戻す。再度実行されるステップS20では、過去に検査用画像Diとして取得された撮影画像Piは、取得対象から除外される。 In step S50, the inspection device 150 determines whether all of the captured images Pi captured in step S10 have been acquired as test images Di. If there are any remaining captured images Pi that have not been acquired as test images Di, the inspection device 150 returns to step S20. When step S20 is executed again, any captured images Pi that were previously acquired as test images Di are excluded from the acquisition targets.

ステップS50で全ての撮影画像Piが検査用画像Diとして取得されたと判定された場合、ステップS60にて、判定部158は、ワークWに異常があるか否かを判定する。より詳細には、本実施形態では、判定部158は、検査用画像Diとして取得された第1画像と第2画像との少なくとも一方に、ボイドVdと異物Fsとの少なくとも一方が含まれる場合に、ワークWに異常があると判定する。また、判定部158は、いずれのビードBd上にボイドVdまたは異物Fsが含まれる場合であっても、ワークWに異常があると判定する。本実施形態におけるステップS60では、判定部158は、記録されたボイド情報および異物情報を参照することによって、ワークWに異常があるか否かを判定する。なお、他の実施形態では、例えば、検査処理において、ボイドVdや異物Fsが含まれると判定された検査用画像Diが、記憶装置130や記憶部142や記憶部152内のディレクトリやフォルダといった所定の格納領域に格納されるように構成されてもよい。この場合、判定部158は、ステップS60において、この格納領域に検査用画像Diが格納されているか否かを判定することで、ワークWに異常があるか否かを判定できる。 If it is determined in step S50 that all captured images Pi have been acquired as test images Di, then in step S60, the determination unit 158 determines whether or not the workpiece W contains an abnormality. More specifically, in this embodiment, the determination unit 158 determines that the workpiece W contains an abnormality if at least one of the first and second images acquired as test images Di contains a void Vd or a foreign substance Fs. Furthermore, the determination unit 158 determines that the workpiece W contains an abnormality even if any bead Bd contains a void Vd or a foreign substance Fs. In step S60 of this embodiment, the determination unit 158 determines whether or not the workpiece W contains an abnormality by referencing the recorded void information and foreign substance information. Note that in other embodiments, for example, test images Di determined to contain voids Vd or foreign substances Fs during the inspection process may be stored in a predetermined storage area, such as a directory or folder, within the storage device 130, storage unit 142, or storage unit 152. In this case, in step S60, the determination unit 158 determines whether or not the workpiece W has an abnormality by determining whether or not the inspection image Di is stored in this storage area.

ステップS60でワークWに異常があると判定された場合、ステップS70にて、検査制御部143は、報知部160を用いて異常を報知する。異常があると判定されたワークWは、例えば、異常の有無に関する追加の判定を受けてもよいし、溶着部WPを修繕するための工程へと送られてもよいし、廃棄されてもよい。ステップS60で異常がないと判定されたワークWは、例えば、タンクを製造するための次の工程へと送られる。なお、本実施形態では、検査処理で撮影された各撮影画像Pi、つまり、検査処理で使用された各検査用画像Diを、例えば、再学習による機械学習モデル200の更新に用いることや、機械学習モデル200の再度の生成に用いることができる。 If it is determined in step S60 that the workpiece W has an abnormality, then in step S70 the inspection control unit 143 uses the notification unit 160 to notify the abnormality. A workpiece W determined to have an abnormality may, for example, undergo further testing to determine whether or not there is an abnormality, may be sent to a process for repairing the welded portion WP, or may be discarded. A workpiece W determined to have no abnormality in step S60 is sent to the next process for manufacturing a tank, for example. Note that in this embodiment, each captured image Pi captured in the inspection process, i.e., each inspection image Di used in the inspection process, can be used, for example, to update the machine learning model 200 by re-learning, or to re-generate the machine learning model 200.

以上で説明した本実施形態における検査システム100によれば、検査用画像DiにおけるビードBd上のボイドVdの有無を判定する第1検査部155と、検査用画像Diに含まれるエッジを検出することによって、検査用画像DiにおけるビードBd上の異物Fsの有無を判定する第2検査部156と、検査用画像DiにボイドVdと異物Fsとの少なくとも一方が含まれる場合にワークWに異常があると判定する判定部158とを備える。このような形態によれば、第1検査部155によって検査用画像Diに基づいてボイドVdの有無を判定でき、第2検査部156によって検査用画像Diに含まれるエッジに基づいて異物Fsの有無を判定できる。そして、検査用画像DiにボイドVdと異物Fsとのいずれが含まれる場合でもワークWに異常があると判定される。そのため、ボイドVdに加え、ビードBdへの異物Fsの付着を異常として判定できる。また、例えば、第1検査部155や第2検査部156のみによってボイドVdの有無と異物Fsの有無との双方を判定する形態と比較して、第2検査部156を異物Fsの有無の判定に特化させやすい。そのため、ビードBd上の異物Fsを異常として精度良く検出できる可能性が高まる。特に、本実施形態のように異物Fsが線状であれば、エッジに基づいて異物Fsをより効果的に検出できる。また、第1検査部155をボイドVdの有無の判定に特化させやすいので、ボイドVdを異常として精度良く検出できる可能性をも高めることができる。 The inspection system 100 of this embodiment described above includes a first inspection unit 155 that determines the presence or absence of voids Vd on the bead Bd in the inspection image Di; a second inspection unit 156 that determines the presence or absence of foreign matter Fs on the bead Bd in the inspection image Di by detecting edges contained in the inspection image Di; and a determination unit 158 that determines that there is an abnormality in the workpiece W if the inspection image Di contains at least one of a void Vd and a foreign matter Fs. In this configuration, the first inspection unit 155 can determine the presence or absence of voids Vd based on the inspection image Di, and the second inspection unit 156 can determine the presence or absence of foreign matter Fs based on edges contained in the inspection image Di. The workpiece W is determined to be abnormal whether the inspection image Di contains either a void Vd or a foreign matter Fs. Therefore, in addition to voids Vd, adhesion of foreign matter Fs to the bead Bd can be determined to be an abnormality. Furthermore, compared to a configuration in which both the presence or absence of voids Vd and the presence or absence of foreign matter Fs are determined using only the first inspection unit 155 and the second inspection unit 156, for example, it is easier to specialize the second inspection unit 156 in determining the presence or absence of foreign matter Fs. This increases the likelihood that foreign matter Fs on the bead Bd can be accurately detected as an abnormality. In particular, if the foreign matter Fs is linear, as in this embodiment, foreign matter Fs can be more effectively detected based on the edge. Furthermore, because it is easier to specialize the first inspection unit 155 in determining the presence or absence of voids Vd, it also increases the likelihood that voids Vd can be accurately detected as an abnormality.

また、本実施形態では、第1検査部155は、ビードBdの外観を撮影した学習用画像用いて学習済みの機械学習モデル200を用いてボイドVdの有無を判定する。そのため、第2検査部156によってエッジに基づいて異物Fsの有無を判定でき、第1検査部155によって機械学習モデル200を用いてボイドVdの有無を判定できる。 Furthermore, in this embodiment, the first inspection unit 155 determines the presence or absence of voids Vd using a machine learning model 200 that has been trained using learning images of the appearance of the bead Bd. Therefore, the second inspection unit 156 can determine the presence or absence of foreign matter Fs based on edges, and the first inspection unit 155 can determine the presence or absence of voids Vd using the machine learning model 200.

また、本実施形態では、機械学習モデル200は、第1カメラ112によって撮影された第1撮影画像と、第2カメラ113によって撮影された第2撮影画像とを、それぞれ学習用画像として用いて学習済みである。そのため、例えば、第1撮影画像と第2撮影画像との一方のみを学習用画像として用いる場合と比較して、学習用画像の不足を抑制できる。また、第2カメラ113による第2撮影画像の撮影を、第1カメラ112による第1撮影画像の撮影とともに実行できるので、より効率良く学習用画像を準備できる。 In addition, in this embodiment, the machine learning model 200 has already been trained using the first captured image taken by the first camera 112 and the second captured image taken by the second camera 113 as training images. Therefore, compared to, for example, using only one of the first captured image and the second captured image as a training image, it is possible to reduce the shortage of training images. Furthermore, since the second captured image can be captured by the second camera 113 at the same time as the first captured image is captured by the first camera 112, training images can be prepared more efficiently.

また、本実施形態では、画像取得部157は、第1画像と第2画像とをそれぞれ検査用画像Diとして取得し、判定部158は、第1画像と第2画像との少なくとも一方にボイドVdと異物Fsとの少なくとも一方が含まれる場合に、ワークWに異常があると判定する。そのため、例えば、第1画像と第2画像との一方のみに基づいてボイドVdや異物Fsの有無を判定する場合と比較して、ワークWをより精密に検査できる。また、単一の機械学習モデル200を用いて第1撮影画像および第2撮影画像におけるボイドVdの有無を判定できる上、検査に使用された第1撮影画像や第2撮影画像を機械学習モデル200の更新や再度の生成に用いることができる。 In addition, in this embodiment, the image acquisition unit 157 acquires the first image and the second image as inspection images Di, respectively, and the determination unit 158 determines that the workpiece W has an abnormality if at least one of the first image and the second image contains at least one of a void Vd and a foreign matter Fs. Therefore, the workpiece W can be inspected more precisely than, for example, when determining the presence or absence of a void Vd or a foreign matter Fs based on only one of the first image and the second image. Furthermore, not only can the presence or absence of a void Vd in the first captured image and the second captured image be determined using a single machine learning model 200, but the first captured image and the second captured image used for inspection can be used to update or regenerate the machine learning model 200.

B.他の実施形態:
(B1)上記実施形態では、機械学習モデル200の学習には、第1撮影画像と第2撮影画像とが学習用画像として用いられているが、機械学習モデル200の学習に第1撮影画像や第2撮影画像が用いられなくてもよい。例えば、第1撮影画像のみが機械学習モデル200の学習に用いられてもよいし、ビードBdの外観を軸方向に垂直な方向に沿って撮影した画像のみが機械学習モデル200の学習に用いられてもよい。この場合、例えば、撮影部111は、2台のカメラを有していなくてもよく、1台のカメラのみを有していてもよい。また、画像取得部157は、検査用画像Diとして第1撮影画像と第2撮影画像とを取得しているが、同様に、第1撮影画像や第2撮影画像を検査用画像Diとして取得しなくてもよい。
B. Other Embodiments:
(B1) In the above embodiment, the first captured image and the second captured image are used as training images for training the machine learning model 200. However, the first captured image and the second captured image do not have to be used for training the machine learning model 200. For example, only the first captured image may be used for training the machine learning model 200, or only an image of the appearance of the bead Bd captured in a direction perpendicular to the axial direction may be used for training the machine learning model 200. In this case, for example, the photographing unit 111 does not have to have two cameras, and may have only one camera. Furthermore, the image acquiring unit 157 acquires the first captured image and the second captured image as the inspection image Di. Similarly, the first captured image and the second captured image do not have to be acquired as the inspection image Di.

(B2)上記実施形態では、撮影部111は、3台以上のカメラを有していてもよい。例えば、複数のビードBdを同じタイミングで撮影可能なように、第1カメラ112や第2カメラ113に加え、第3のカメラや第4のカメラを設けてもよい。また、1つのビードBdを3台以上のカメラで撮影可能なように、複数のカメラを配置してもよい。 (B2) In the above embodiment, the photographing unit 111 may have three or more cameras. For example, in addition to the first camera 112 and the second camera 113, a third camera and a fourth camera may be provided so that multiple beads Bd can be photographed at the same time. Also, multiple cameras may be arranged so that one bead Bd can be photographed with three or more cameras.

(B3)上記実施形態では、機械学習モデル200は、教師あり学習によって学習済みである。これに対して、機械学習モデル200は、教師あり学習以外の学習アルゴリズムによって生成されてもよい。例えば、機械学習モデル200は、教師なし学習で生成されてもよく、ボイドVdを含むビードBdの画像のみや、ボイドVdを含まないビードBdの撮影のみを学習用画像として用いて学習済みのオートエンコーダであってもよい。 (B3) In the above embodiment, the machine learning model 200 has been trained by supervised learning. In contrast, the machine learning model 200 may be generated by a learning algorithm other than supervised learning. For example, the machine learning model 200 may be generated by unsupervised learning, or may be an autoencoder that has been trained using only images of beads Bd that contain voids Vd or only images of beads Bd that do not contain voids Vd as training images.

(B4)上記実施形態では、第1検査部155は、機械学習モデル200を用いてボイドVdを検出している。これに対して、第1検査部155は、ボイドVdの検出に機械学習モデル200を用いなくてもよく、例えば、検査用画像Di内の輝度差や輝度のばらつきに基づいてボイドVdを検出してもよい。 (B4) In the above embodiment, the first inspection unit 155 detects voids Vd using the machine learning model 200. In contrast, the first inspection unit 155 does not need to use the machine learning model 200 to detect voids Vd, and may detect voids Vd based on, for example, brightness differences or brightness variations within the inspection image Di.

(B5)上記実施形態では、第2検査部156は、エッジの角度と座標と間隔と強度とに基づいて異物Fsの有無を判定している。これに対して、第2検査部156は、例えば、これらのうちいずれか1つや2つ、3つに基づいて異物Fsの有無を判定してもよい。 (B5) In the above embodiment, the second inspection unit 156 determines the presence or absence of a foreign substance Fs based on the edge angle, coordinates, spacing, and strength. However, the second inspection unit 156 may determine the presence or absence of a foreign substance Fs based on, for example, any one, two, or three of these.

(B6)上記実施形態では、検査処理において、第2検査部156による異物Fsの有無の検出が、第1検査部155によるボイドVdの有無の検出の後に実行されている。これに対して異物Fsの有無の検出が、ボイドVdの有無の検出の前に実行されてもよいし、ボイドVdの有無の検出と並行して実行されてもよい。 (B6) In the above embodiment, in the inspection process, the second inspection unit 156 detects the presence or absence of foreign matter Fs after the first inspection unit 155 detects the presence or absence of voids Vd. In contrast, the detection of the presence or absence of foreign matter Fs may be performed before the detection of the presence or absence of voids Vd, or may be performed in parallel with the detection of the presence or absence of voids Vd.

(B7)上記実施形態では、検査システム100は、撮影ユニット110と記憶装置130と制御装置140と検査装置150と報知部160とによって構成されている。これに対して、検査システム100において、これらの全てが一体に構成されてもよいし、任意の2以上が一体に構成されてもよい。例えば、検査装置150が制御装置140に組み込まれていてもよいし、制御装置140に検査装置150が組み込まれていてもよい。 (B7) In the above embodiment, the inspection system 100 is composed of the photographing unit 110, the storage device 130, the control device 140, the inspection device 150, and the alarm unit 160. In contrast, in the inspection system 100, all of these may be configured as an integrated unit, or any two or more of them may be configured as an integrated unit. For example, the inspection device 150 may be incorporated into the control device 140, or the inspection device 150 may be incorporated into the control device 140.

本開示は、上述の実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態中の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。 This disclosure is not limited to the above-described embodiments, and can be realized in various configurations without departing from its spirit. For example, the technical features in the embodiments corresponding to the technical features in each aspect described in the Summary of the Invention section can be replaced or combined as appropriate to solve some or all of the above-described problems or achieve some or all of the above-described effects. Furthermore, if a technical feature is not described as essential in this specification, it can be deleted as appropriate.

100…検査システム、110…撮影ユニット、111…撮影部、112…第1カメラ、113…第2カメラ、114…軸部、115…照明装置、116…カメラコントローラ、130…記憶装置、140…制御装置、141…CPU、142…記憶部、143…検査制御部、150…検査装置、151…CPU、152…記憶部、155…第1検査部、156…第2検査部、157…画像取得部、158…判定部、160…報知部、200…機械学習モデル、205…エッジ検出プログラム 100...Inspection system, 110...Photographing unit, 111...Photographing unit, 112...First camera, 113...Second camera, 114...Axis, 115...Illumination device, 116...Camera controller, 130...Storage device, 140...Control device, 141...CPU, 142...Storage unit, 143...Inspection control unit, 150...Inspection device, 151...CPU, 152...Storage unit, 155...First inspection unit, 156...Second inspection unit, 157...Image acquisition unit, 158...Determination unit, 160...Notification unit, 200...Machine learning model, 205...Edge detection program

Claims (5)

溶着部を有する柱状部を含むワークを検査する検査システムであって、
前記溶着部におけるビードの外観が撮影された画像を、検査用画像として取得する画像取得部と、
前記検査用画像における前記ビード上のボイドの有無を判定する第1検査部と、
前記検査用画像に含まれるエッジを検出することによって、前記検査用画像における前記ビード上の異物の有無を判定する第2検査部と、
前記検査用画像に前記ボイドと前記異物との少なくとも一方が含まれる場合に、前記ワークに異常があると判定する判定部と、を備える、検査システム。
An inspection system for inspecting a workpiece including a column having a weld, comprising:
an image acquisition unit that acquires an image of the appearance of the bead in the welded portion as an inspection image;
a first inspection unit that determines whether or not a void exists on the bead in the inspection image;
a second inspection unit that detects edges included in the inspection image to determine whether or not there is a foreign substance on the bead in the inspection image;
an inspection system comprising a determination unit that determines that there is an abnormality in the workpiece when at least one of the void and the foreign matter is included in the inspection image.
請求項1に記載の検査システムであって、
前記第1検査部は、前記ビードの外観が撮影された複数の学習用画像を用いて学習済みの機械学習モデルであって、前記機械学習モデルに入力される画像に前記ボイドが含まれるか否かを判定するための機械学習モデル、を用いて前記ボイドの有無を判定する、検査システム。
10. The inspection system of claim 1,
The first inspection unit is an inspection system that determines the presence or absence of a void using a machine learning model that has been trained using multiple learning images of the appearance of the bead, and is used to determine whether the void is included in the image input to the machine learning model.
請求項2に記載の検査システムであって、
前記ビードの外観の一部を撮影する第1カメラと、
前記ビードの前記一部を撮影する第2カメラであって、前記第1カメラが前記一部を撮影する角度とは異なる角度で、前記一部を撮影する第2カメラと、を備え、
前記機械学習モデルは、前記第1カメラによって前記ビードの外観が撮影された画像と、前記第2カメラによって前記ビードの外観が撮影された画像と、を前記学習用画像として用いて学習済みである、検査システム。
3. The inspection system of claim 2,
a first camera that captures an image of a part of the outer appearance of the bead;
a second camera that photographs the portion of the bead at an angle different from the angle at which the first camera photographs the portion,
An inspection system in which the machine learning model has been trained using an image of the bead's appearance photographed by the first camera and an image of the bead's appearance photographed by the second camera as the training images.
請求項3に記載の検査システムであって、
前記画像取得部は、前記第1カメラによって検査対象である前記溶着部の前記ビードの外観が撮影された第1画像と、前記第2カメラによって前記検査対象である前記溶着部の前記ビードの外観が撮影された第2画像と、をそれぞれ前記検査用画像として取得し、
前記判定部は、前記第1画像と前記第2画像との少なくとも一方に、前記ボイドと前記異物との少なくとも一方が含まれる場合に、前記ワークに異常があると判定する、検査システム。
4. The inspection system of claim 3,
the image acquisition unit acquires, as the inspection images, a first image obtained by the first camera capturing an appearance of the bead of the welded portion to be inspected, and a second image obtained by the second camera capturing an appearance of the bead of the welded portion to be inspected,
An inspection system, wherein the judgment unit judges that the workpiece has an abnormality when at least one of the first image and the second image contains at least one of the void and the foreign matter.
請求項1から4のいずれか一項に記載の検査システムであって、
前記第2検査部は、前記検査用画像における、エッジの角度と、エッジの座標と、エッジの間隔と、エッジの強度と、の少なくともいずれかに基づいて、前記検査用画像における前記異物の有無を判定する、検査システム。
5. The inspection system according to claim 1,
an inspection system in which the second inspection unit determines the presence or absence of the foreign matter in the inspection image based on at least one of an edge angle, an edge coordinate, an edge spacing, and an edge strength in the inspection image.
JP2023002970A 2023-01-12 2023-01-12 Inspection System Active JP7779272B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023002970A JP7779272B2 (en) 2023-01-12 2023-01-12 Inspection System
CN202410019658.0A CN118329895A (en) 2023-01-12 2024-01-05 Check the system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023002970A JP7779272B2 (en) 2023-01-12 2023-01-12 Inspection System

Publications (2)

Publication Number Publication Date
JP2024099202A JP2024099202A (en) 2024-07-25
JP7779272B2 true JP7779272B2 (en) 2025-12-03

Family

ID=91773338

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023002970A Active JP7779272B2 (en) 2023-01-12 2023-01-12 Inspection System

Country Status (2)

Country Link
JP (1) JP7779272B2 (en)
CN (1) CN118329895A (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015158465A (en) 2014-02-25 2015-09-03 株式会社ジェイ・パワーシステムズ Inspection device and detection method
JP2017148841A (en) 2016-02-24 2017-08-31 株式会社東芝 Welding processing system and welding failure detection method
JP2020112456A (en) 2019-01-14 2020-07-27 株式会社デンケン Inspection device and inspection method
WO2020153063A1 (en) 2019-01-25 2020-07-30 東レ株式会社 Inspection method and manufacturing method for structure and inspection apparatus and manufacturing apparatus for structure
JP2022190226A (en) 2021-06-14 2022-12-26 トヨタ自動車株式会社 Pressure vessel strain analysis device and method of manufacturing pressure vessel

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015158465A (en) 2014-02-25 2015-09-03 株式会社ジェイ・パワーシステムズ Inspection device and detection method
JP2017148841A (en) 2016-02-24 2017-08-31 株式会社東芝 Welding processing system and welding failure detection method
JP2020112456A (en) 2019-01-14 2020-07-27 株式会社デンケン Inspection device and inspection method
WO2020153063A1 (en) 2019-01-25 2020-07-30 東レ株式会社 Inspection method and manufacturing method for structure and inspection apparatus and manufacturing apparatus for structure
JP2022190226A (en) 2021-06-14 2022-12-26 トヨタ自動車株式会社 Pressure vessel strain analysis device and method of manufacturing pressure vessel

Also Published As

Publication number Publication date
JP2024099202A (en) 2024-07-25
CN118329895A (en) 2024-07-12

Similar Documents

Publication Publication Date Title
US7924418B2 (en) Inspection apparatus and method
CN110441316B (en) Battery surface defect detection method and detection system
CN111307034B (en) Position detection method and position detection device
JP2017148841A (en) Welding processing system and welding failure detection method
US20100053790A1 (en) Hard disk inspection apparatus and method, as well as program
JPWO2013012082A1 (en) Bead filler inspection apparatus, bead filler inspection program, and bead filler inspection method
JP2008246536A (en) Apparatus and method for analyzing welding state
CN214584972U (en) Foreign matter layering check out test set
JP2020197983A (en) Object measurement method, measuring device, program, and computer-readable recording medium
JP7779272B2 (en) Inspection System
KR20120132804A (en) Apparatus and method for automatic inspecting wind blade
KR20230120515A (en) An apparatus detecting weld defect of hairpin motor with artificial intelligence techniques
JP2003065985A (en) Method for inspecting laser welding part and apparatus therefor
JP2018036172A (en) Inspection device and method
JP2001070455A (en) Method for inspecting pattern width of stent surface
JP5988490B2 (en) A device to inspect the application state of fiber reinforced plastic tape
JP3182523U (en) Work inspection device
JP2001027518A (en) Wire harness visual inspection device
JP7255289B2 (en) inspection equipment
JP5959430B2 (en) Bottle cap appearance inspection device and appearance inspection method
WO2025107549A1 (en) Battery cell detection apparatus and battery cell detection method
JP2004361085A (en) Appearance inspection device
KR102746425B1 (en) Apparatus for inspecting defect
JP2007033339A (en) Fish eye detection determination method and fish eye detection determination device
JP2008051694A (en) Visual inspection method and system of mounting substrate

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20250212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20251010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20251021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20251103

R150 Certificate of patent or registration of utility model

Ref document number: 7779272

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150