JP7747201B2 - 部品検査方法および部品検査装置 - Google Patents
部品検査方法および部品検査装置Info
- Publication number
- JP7747201B2 JP7747201B2 JP2024526236A JP2024526236A JP7747201B2 JP 7747201 B2 JP7747201 B2 JP 7747201B2 JP 2024526236 A JP2024526236 A JP 2024526236A JP 2024526236 A JP2024526236 A JP 2024526236A JP 7747201 B2 JP7747201 B2 JP 7747201B2
- Authority
- JP
- Japan
- Prior art keywords
- point cloud
- data
- progress
- cloud data
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2518—Projection by scanning of the object
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0006—Industrial image inspection using a design-rule based approach
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B5/00—Measuring arrangements characterised by the use of mechanical techniques
- G01B5/003—Measuring of motor parts
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、複数の部品を組み立ててなる組立体において対象とする少なくとも1つの部品の空間的な配置状態に関連した検査を行う部品検査方法および部品検査装置に関する。
特許文献1には、3次元レーザスキャナにより計測された部品の計測データと、この部品の設計データとに基づいて部品の外形状を求めることにより部品を検査する部品検査方法が開示されている。この方法では、3次元レーザスキャナにより形状データを取得する際に、部品の外表面全体にレーザ光を照射する必要がある。
特許文献1の部品検査装置では、部品の外表面全体にレーザ光を照射するため、部品検査にかかる時間が長くなるという問題があった。
また、近年では、複数の部品を組み立ててなる組立体では、他部品によるレーザ光の遮断等の理由により、対象部品の外表面にレーザ光が十分に照射されず、部品検査にかかる時間が長期化する傾向にある。
本発明はこのような課題に着目してなされたものであり、外側からのスキャニングにより、組立体において対象部品の検査時間を短縮することが可能な部品検査方法および部品検査装置を提供する。
本発明は、複数の部品を組み立ててなる組立体において対象とする少なくとも1つの部品の空間的な配置状態に関連した検査を行う部品検査方法であって、対象部品を含む領域を外側から3次元センサによりスキャニングして対象部品の外表面の一部を含む計測データを徐々に取得し、対象部品の外形状および該対象部品の組立体内での位置関係を含む設計データを取得し、設計データにおける対象部品を含む領域と、計測データにおける対象部品を含む領域とを位置合わせし、位置合わせに基づいて、スキャニングが進行した度合いを示す進捗度を算出し、進捗度を所定の閾値と比較し、進捗度が閾値を越えたときに閾値を越えたことを情報提示する。
本発明によれば、外側からのスキャニングにより、組立体において対象部品の検査時間を短縮することができる。
以下、図面を参照しながら、本発明の一実施例について説明する。一実施例は、自動車の完成車検査工程においてエンジンルーム内にある2つの部品の空間的な配置状態を特定し、両者間の最小隙間を算出する隙間検査にこの発明を適用したものである。
図1は、一実施例の組立体である自動車のエンジンルーム1内の種々の部品の一部を上側から見た図であり、エンジンの吸気マニホールド2の付近の領域を示している。吸気マニホールド2の下側に、エンジンの点火装置の一部となるイグニッションコイル3が配置されている。また、吸気マニホールド2の側方に、エンジンに燃料を供給する配管である燃料チューブ4が位置している。燃料チューブ4は、耐油性や耐火性を考慮した金属管から形成されており、径方向に沿った断面が円形をなしている。図1に示すように、燃料チューブ4は、吸気マニホールド2の側部に沿って概ね直線状に延びる直線部4aと、該直線部4aの一端からイグニッションコイル3側に傾斜する傾斜部4bとを有している。金属管からなる燃料チューブ4は、取付時に多少の変形が生じ、従って、非剛体とみなされる部品である。他方、イグニッションコイル3は、外形状が変化しない剛体とみなされる部品となる。イグニッションコイル3と燃料チューブ4との間の空間的な最小距離(最小隙間)は法令によって規定されており、従って、完成車検査工程において、その最小隙間の検査が必要である。ここで、多くの場合、イグニッションコイル3と燃料チューブ4との間の設計上の最小距離は、イグニッションコイル3もしくは燃料チューブ4の少なくとも一方において外部から視認できない外表面の位置で規定されており、検査員による定規を用いた計測は一般に困難である。本実施例は、このような2部品間の隙間を、3次元センサを用いた外部からの計測および演算処理によって求めるものである。
また、エンジンルーム1内には、吸気マニホールド2、イグニッションコイル3および燃料チューブ4に加えて複数の部品が設けられている。本実施例の自動車の完成車検査工程では、剛体の部品であるイグニッションコイル3と、形状の変形を考慮した非剛体の部品である燃料チューブ4とを含む複数の部品を組み立ててなる自動車においてイグニッションコイル3と燃料チューブ4との間の距離を検査する。
図2に示すように、自動車の完成車検査工程で用いられる一実施例の隙間検査装置は、3次元センサ例えば3次元レーザスキャナ5と、データベース6と、制御装置7と、1つあるいは複数のディスプレイ(デバイス)8とから主に構成される。なお、完成車検査工程においては多数の検査が所定の順序に従って順次行われる。一実施例の隙間検査装置は、完成車検査工程における検査装置の中の一部として構成される。
3次元レーザスキャナ5は、計測対象にレーザを照射しかつ反射時間を計測することで、計測対象の表面形状の3次元座標を取得することができるものであり、毎秒数万点程度の高い速度で計測を行うことで、高密度の点群データが得られる。3次元レーザスキャナとしては、種々の大きさおよび形式のものが知られているが、一実施例においては、作業者が手で持って計測対象のスキャニングを行うことができる形式のものが用いられており、イグニッションコイル3と燃料チューブ4とを他部品とともに含む領域を外側から手動でスキャニングすることで、対象領域の計測を行う。このような3次元レーザスキャナ5によるスキャニングにより、図3に示すように、イグニッションコイル3および燃料チューブ4の外表面の一部を含む領域全体の点群データが得られる。
なお、点群データは、スキャニングにより実際にはフレーム毎の時系列データとして取得されるが、重ね合わせることで領域全体の点群データが取得される。また、取得された点群データについては、例えばスキャニングの際に入り込んでしまったチリ等によるノイズを除去するノイズ除去処理を施すことが望ましい。また、3次元レーザスキャナとしては、スキャニングの際に、ターゲットとなる部品の形や位置を認識させるための目安となるマーカーを必要とするものであってもよい。
ここで、本発明における「スキャニング」とは、3次元センサ(例えば3次元レーザスキャナ5)自身が有する面的な走査機能と、例えば作業者が行う3次元センサの移動と、のいずれか一方もしくは双方を含む概念である。一実施例では、面的な走査機能を有する3次元レーザスキャナ5を用い、さらにこの3次元レーザスキャナ5を移動させることでスキャニングを行う。計測を行うべき対象領域の大きさや形状あるいは3次元センサの形式等によっては、例えば複数の3次元センサを空間内の適当な位置に固定的に配置して各3次元センサの走査機能でもって対象領域の点群データを取得することも可能である。
データベース6には、検査対象となる自動車の全ての設計データが蓄積されているものであり、従って、隙間検査の対象となるイグニッションコイル3の形状データと燃料チューブ4の形状データとが、両者の空間内での位置関係を示すデータとともに設計データとして格納されている。さらに、データベース6には、領域内に存在する他部品の形状データや位置関係のデータも蓄積されている。設計データは、メッシュを構成するCADデータの形式でデータベース6に格納されている。隙間検査の際には、必要な設計データがデータベース6から制御装置7へと読みだされる。なお、設計データについては、制御装置7へと読み出した後、イグニッションコイル3と燃料チューブ4との間の隙間に関与する部分以外の箇所に周知の陰面処理を施して、データサイズを小さくするようにしてもよい。
制御装置7は、まず、イグニッションコイル3の設計データを剛体としてイグニッションコイル3の計測データの位置に位置合わせして、隠れている外表面部分を含むイグニッションコイル3の外形状を生成し、さらに、燃料チューブ4の設計データを非剛体として燃料チューブ4の計測データの位置に位置合わせして、隠れている外表面部分を含む燃料チューブ4の外形状を生成するために各種処理を実行する。そして、制御装置7は、イグニッションコイル3および燃料チューブ4の生成された外形状に基づいてイグニッションコイル3の任意の点と燃料チューブ4の任意の点との間の距離を算出する。制御装置7の各構成要素については、後に詳細に説明する。
ディスプレイ8は、制御装置7によって算出された最小距離が、法令によって規定された閾値未満となる場合に、燃料チューブ4に必要な変位量(移動量)とその箇所を表示する。
これより、制御装置7の各構成要素について説明する。図2に示すように、制御装置7は、第1位置合わせ部7aと、進捗度算出部7bと、第2位置合わせ部7cと、第3位置合わせ部7dと、信頼度算出部7eと、第1補間部7fと、第2補間部7gと、距離算出部7hと、変位量算出部7iとを有している。
第1位置合わせ部7aは、3次元レーザスキャナ5により取得された計測データにおけるイグニッションコイル3、燃料チューブ4および他部品を含む対象領域(位置合わせにおいていわゆるターゲットとなる領域)全体と、データベース6に蓄積された設計データにおけるイグニッションコイル3、燃料チューブ4および他部品を含む領域(位置合わせにおいていわゆるリファレンスとなる領域)全体との大まかな位置合わせを行う。より具体的には、第1位置合わせ部7aは、FPFHアルゴリズムを用いて、ターゲットとなる領域全体の点群データからキーポイントを探索し、このキーポイントの特徴、例えばキーポイントの法線ベクトルや周囲の相対角度を記述する。さらに、第1位置合わせ部7aは、周知の変換手法を用いて、リファレンスとなる領域全体の設計データを点群データに変換した上で、同様に、FPFHアルゴリズムを用いてキーポイントを探索し、このキーポイントの特徴、例えばキーポイントの法線ベクトルや周囲の相対角度を記述する。そして、第1位置合わせ部7aは、ターゲットに関するキーポイントとリファレンスに関するキーポイントとの間の法線ベクトルや周囲の点群との相対角度を比較することで、法線ベクトルや相対角度がほぼ一致するペアを構成するキーポイントの組み合わせを探索し、そして、ペアとなるキーポイントの組み合わせを用いてリファレンスの点群データをターゲットの点群データに大まかに位置合わせする。なお、この大まかな位置合わせの際には、非剛体の燃料チューブ4については、剛体とみなしており、結果的に、例えば燃料チューブ4の長さ範囲内で平均的な位置合わせがなされる。第1位置合わせ部7aによる対象領域の大まかな位置合わせは、対象領域のスキャニングの進行と並行して実行される。第1位置合わせ部7aは、FPFHアルゴリズム以外の公知のアルゴリズムを用いて対象領域の大まかな位置合わせを行うものであってもよい。
進捗度算出部7bは、第1位置合わせ部7aによる大まかな位置合わせの後、イグニッションコイル3および燃料チューブ4の後述の詳細な位置合わせを行う前に、対象領域の中で必要となるスキャニングがどの程度進行しているかを示す進捗度を算出する。つまり、進捗度算出部7bは、リファレンスとなる設計データに基づく対象領域の点群データの点数と、第1位置合わせ部7aによる大まかな位置合わせによってリファレンスとターゲットとの間で互いにマッチングした点数と、の比からスキャニングの進捗度(進行の度合い)を算出する。さらに、このように算出した進捗度を所定の進捗度閾値(本実施例では例えば40%)と比較し、スキャニングの進行に伴って徐々に増加していく進捗度がこの進捗度閾値を越えたかどうかをリアルタイムに判定する。例えば、そのときの進捗度およびこの進捗度が進捗度閾値を越えたかどうかの情報が、図示せぬ情報出力部を介してディスプレイ8に表示されるので、作業者は、この表示に従って、3次元レーザスキャナ5によるスキャニングを継続することとなる。換言すれば、3次元レーザスキャナ5によるスキャニング(点群データの生成)と大まかな位置合わせと進捗度算出とが、所定の進捗度閾値を越えるまでリアルタイムに繰り返される。例えば、図4において破線で囲まれた領域が40%の進捗度に相当する。
なお、進捗度は、上記のようなデータ点数の比のほか、3次元レーザスキャナ5によりスキャニングされた距離、3次元レーザスキャナ5が通過した視点の数、大まかな位置合わせの中で用いられるキーポイントの数、等によって評価するようにしてもよい。
スキャニングの対象となる領域の基本形状ないし構成はデータベース6から得られる設計データとして既知であるので、3次元レーザスキャナ5から逐次得られる点群データに基づき、3次元レーザスキャナ5の空間内での位置およびその移動軌跡を含めてその移動軌跡の推定が可能である。そして、この移動軌跡の長さに対して、3次元レーザスキャナ5によりスキャニングされた距離がどの程度含まれるのかに基づいてスキャニングの進捗度を算出することができる。
また、3次元レーザスキャナ5の位置における視点については、複数の代表的な視点が予め定められており、3次元レーザスキャナ5が移動軌跡を描くまでに何個の代表的な視点を通過したかに基づいて、スキャニングの進捗度を求めることができる。
さらに、キーポイントの最大の数については、設計データから変換された点群データに基づいて決まっているので、従って、このキーポイントの最大の数に対して、計測データから変換された点群データに基づくキーポイントの割合を求めることで、スキャニングの進捗度を算出することができる。
第2位置合わせ部7cは、進捗度が40%を越えていることを条件として、部品個々に空間内での詳細な位置合わせを行う。すなわち、第2位置合わせ部7cは、イグニッションコイル3および燃料チューブ4の計測により得たターゲットの点群データの全ての点についてリファレンスの点群データの中からペアとなる点を探索し、リファレンスとなる点群データをターゲットとなる点群データに詳細に位置合わせする。非剛体の燃料チューブ4について、ここでは、剛体とみなしており、結果的に、燃料チューブ4の長さ範囲内で平均的な位置合わせがなされる。第2位置合わせ部7cにおける詳細な位置合わせは、公知の適当なアルゴリズムを用いて行うことができる。
第3位置合わせ部7dは、第2位置合わせ部7cによる詳細な位置合わせの後に、非剛体の部品(本実施例では燃料チューブ4)について、変形を考慮したいわゆる非剛体位置合わせを行うものである。ここでは、公知の適当なアルゴリズムを用いることができるが、例えば、予め剛体とみなした位置合わせをしたリファレンスの点群データとターゲットの点群データとから最近傍ペアを探索し、ペアの2点を互いに近づけるパラメータとして、回転・拡大・平行移動の各パラメータを求める。例えば、燃料チューブ4の外形状をダウンサンプルして、頂点およびエッジを有した複数の三角形で外表面を構成するような形態にしておき、ダウンサンプルされた各領域、つまり隣接した複数の三角形を含む各領域の点群(クラスタ)を代表する頂点を用いて、エッジの長さが変化しない(厳密には、長さ変化が最小)という制約を付して、クラスタの変形を回転・拡大・平行移動のパラメータに分解する。このようなクラスタ単位の変形の集合として燃料チューブ4全体の変形が得られる。第3位置合わせ部7dは、このような変形を考慮した非剛体位置合わせの手法により、燃料チューブ4についてのリファレンスの点群データを変形させつつ空間内でターゲットの点群データに位置合わせする。
信頼度算出部7eは、対象とする各部品(つまり、イグニッションコイル3および燃料チューブ4)の位置合わせに対する信頼度を算出する。換言すれば、信頼度算出部7eは、イグニッションコイル3および燃料チューブ4のそれぞれについて、位置合わせしたリファレンスの点群データの近傍にターゲットの点群データがどれぐらい収まっているかを示す信頼度を算出する。
図5は、信頼度を説明するために、位置合わせ後の燃料チューブ4の点群データを模式的に示した説明図である。説明の単純化のために、ここでは、仮に、燃料チューブ4のある断面における円形の外表面が13個の点群データで形作られるものと仮定している。円形に並んだ13個の点群データDrは、設計データに基づくリファレンスの点群データであり、半円状に並んだ7個の点群データDtは、計測データに基づくターゲットの点群データである。例えば3次元レーザスキャナ5によるスキャニングが図の上側からのみ行われた結果、下半分がスキャニングされなかった領域(欠損領域)となり、ターゲットの点群データDtは半円状に並んでいる。
信頼度は、例えばリファレンスの点群データDrの点数と、このリファレンスの点群データDrの各点から半径Lの範囲内に含まれるターゲットの点群データDtの点数と、の比で示される。なお、図では、リファレンスの点群データDrの多数の点から半径Lの範囲を、それぞれ破線で示す外側の円C1と内側の円C2とで表している。図5(a)の例では、円C1,C2の範囲R内にターゲットの4個の点群データDtが含まれているので、信頼度は4/13となる。また、図5(b)に示す例では、円C1,C2の範囲R内に含まれるターゲットの点群データDtが2個であるので、信頼度は2/13となる。図5(c)に示す例では、ターゲットの全ての点つまり7個の点群データDtが範囲R内に含まれており、信頼度は7/13となる。このように、信頼度は、位置合わせの精度と、計測データにおける欠損領域の大きさないし割合と、の双方の影響を受ける。
第1補間部7fは、イグニッションコイル3の計測データつまりターゲットの点群データにおいてスキャニングされずに欠けている部分を、リファレンスの点群データで補間するものである。つまり、エンジンルーム1の上側から見えずに隠れているイグニッションコイル3の裏側(下側)の外表面部分を、リファレンスの点群データで補間し、隠れている部分を含む点群データを生成する。そして、第1補間部7fは、生成された点群データを、周知の変換手法を用いて面を構成するメッシュデータに変換する。
同様に、第2補間部7gは、燃料チューブ4の計測データつまりターゲットの点群データにおいてスキャニングされずに欠けている部分を、リファレンスの点群データで補間するものである。つまり、エンジンルーム1の上側から見えずに隠れている燃料チューブ4の裏側(下側)の外表面部分を、リファレンスの点群データで補間し、隠れている部分を含む燃料チューブ4の点群データを生成する。そして、第2補間部7gは、生成された点群データを、周知の変換手法を用いて面を構成するメッシュデータに変換する。
距離算出部7hは、第1補間部7fによって取得されたイグニッションコイル3のメッシュデータと、第2補間部7gによって取得された燃料チューブ4のメッシュデータとに基づいて、イグニッションコイル3の表面の各点から燃料チューブ4の表面の各点までの距離をそれぞれ算出する。さらに、距離算出部7hは、算出された各距離を互いに比較することで最小距離を求める。なお、距離算出部7hは、イグニッションコイル3の点群データと燃料チューブ4の点群データとをメッシュデータに変換することなく、各点群データに基づいて、イグニッションコイル3の各点から燃料チューブ4の各点までの距離をそれぞれ算出してもよい。また、距離算出部7hは、最小距離を所定の閾値と比較し、最小距離が閾値未満の場合には、最小距離が閾値未満であることをディスプレイ8に情報提示する。なお、最小距離が閾値未満であることを作業者に対して情報提示する場合、前述のディスプレイを用いた画像による提示の他に、スピーカー等の音響機器を用いて音声による提示をしてもよいし、作業員が手に保持したスキャナや作業員が身に着けている時計等のウェアラブルデバイスを用いて振動による情報提示をしてもよい。振動による情報提示の場合、予め定めた振動のパターンによって閾値以上か閾値未満かを提示してもよい。
変位量算出部7iは、最小距離が所定の閾値未満の場合に、最小距離となる箇所、及びいくつかの代表点について燃料チューブ4に必要な移動量、つまり最小距離が閾値以上となるために必要な燃料チューブ4の変位量を定量的に算出し、ディスプレイ8に情報提示する。
ディスプレイ8は、燃料チューブ4に必要な変位量と共に、イグニッションコイル3と燃料チューブ4との間の最小距離とその箇所を併せて表示する。また、ディスプレイ8には、図6に破線で示す2本の曲線W1,W2の間の領域によって、エンジンルーム1内における燃料チューブ4の望ましい配置が示されており、作業者は、最小距離が閾値未満である場合に、ディスプレイ8に表示された図示省略の変位量に基づいて燃料チューブ4を変位させることで、曲線W1,W2の間の領域に燃料チューブ4を収める。また、燃料チューブ4の側部に隣接した濃い色で示される部分は、作業者が燃料チューブ4を変位させる前の燃料チューブ4の一部を示している。本実施例では、図6に示すように、変位量算出部7iは、吸気マニホールド2の側部に沿って直線的に延びる直線部4aの一地点について、吸気マニホールド2から離間する方向Pに20mmの変位量を表示し、さらに、イグニッションコイル3(図1参照)側に傾斜した傾斜部4bの一地点について、吸気マニホールド2から離間する別の方向Qに沿って10mmの変位量を表示する。なお、図6では、最小距離および該最小距離の箇所の図示を省略してあるが、最小距離の箇所については、傾斜部4bのうち方向Qに変位量が加えられる箇所よりも左斜め下側とイグニッションコイル3(図1参照)との間にある。
次に、図7のフローチャートに基づいて本実施例の隙間検査方法について説明する。
まず、ステップS1では、作業者による3次元レーザスキャナ5の操作によって、対象部品であるイグニッションコイル3と燃料チューブ4とを含むエンジンルーム1内の所定の領域を外側からスキャニングして各部品の外表面の一部を含む点群データを取得する。このスキャニングおよび点群データの生成は、スキャニング操作に伴って徐々に進行する。
次に、ステップS2において、データベース6から、対象部品であるイグニッションコイル3や燃料チューブ4および周辺の他部品のCADデータをこれらの空間的位置関係を示すCADデータとともに取得する。
そして、ステップS3において、公知の適当な変換手法を用いて、CADデータを点群データに変換する。
次に、ステップS4において、前述の第1位置合わせ部7aとして、ターゲットとなる領域全体とリファレンスとなる領域全体との大まかな位置合わせを行う。前述したように、イグニッションコイル3、燃料チューブ4および他部品を含む領域全体の点群データと、データベース6に蓄積された設計データにおけるイグニッションコイル、燃料チューブおよび他部品を含む領域全体の点群データとを、キーポイントの探索やペアとなるキーポイントの組み合わせを用いて位置合わせすることで、大まかな位置合わせを行う。
ステップS4の大まかな位置合わせの後に、ステップS5において、前述の進捗度算出部7bとして、リファレンスとなる領域の点群データの点数と、スキャニングされた領域の点群データの中のマッチングした点数と、の比からスキャニングの進捗度を算出する。
そして、ステップS6において、この進捗度が所定の進捗度閾値(本実施例では40%だが、閾値はこれに限らない)を越えたか否かを判定する。進捗度が40%以下の場合には、ステップS7に移行し、ディスプレイ8にその進捗度を表示して、作業者によるスキャニングを継続する。つまりステップS1以降の処理を繰り返す。
また、ステップS6において進捗度が40%を越えた場合には、ステップS8に移行し、対象部品であるイグニッションコイル3および燃料チューブ4を、計測データの点群データおよび設計データの点群データからそれぞれ抽出する。計測データから抽出された点群データがいわゆるターゲットとなり、設計データから抽出された点群データがいわゆるリファレンスとなる。リファレンスとなる対象部品の点群データは、部品単体のCADデータから生成してもよい。
次に、ステップS9において、第2位置合わせ部7cとして、公知の適当なアルゴリズムを用いて、イグニッションコイル3および燃料チューブ4の詳細な位置合わせを行う。ここでは、燃料チューブ4は剛体とみなす。例えば、前述したように、大まかな位置合わせを経ているターゲットの点群データとリファレンスの点群データとの間でペアとなる点を探索し、リファレンスがターゲットに近付くように詳細な位置合わせを行う。
次に、前述の第3位置合わせ部7dは、非剛体である燃料チューブ4の非剛体位置合わせのために、ステップS10において、燃料チューブ4のデータをダウンサンプルする。そして、ステップS11において、燃料チューブ4の変形を考慮した非剛体位置合わせを行う。つまり、リファレンスの点群データを変形させつつターゲットの位置に位置合わせする。この非剛体位置合わせでは、上述したように剛体とみなして位置合わせしたリファレンスの点群データとターゲットの点群データとから最近傍のペアを探索し、互いに近づけるパラメータとして、回転・拡大・平行移動を求める。
次に、ステップS12に進み、イグニッションコイル3および燃料チューブ4のそれぞれについて位置合わせの信頼度を算出する。信頼度は、例えば、リファレンスの点群データの点数と、このリファレンスの点群データの各点から所定半径の範囲内に含まれるターゲットの点群データの点数と、の比で示される。
そして、ステップS13において、イグニッションコイル3の信頼度および燃料チューブ4の信頼度がそれぞれ所定の信頼度を満たしているか否かを判定する。双方の信頼度がともに所定の信頼度を満たしている場合には、位置合わせが完了したものとしてステップS14に移行する。
ステップS14では、第1補間部7fおよび第2補間部7gとして、イグニッションコイル3および燃料チューブ4のターゲットの点群データのスキャニングされていない部分を、ターゲットに位置合わせしたリファレンスの点群データで補間する。これにより、それぞれのターゲットの位置において、スキャニングされていない部分(つまり隠れている部分)を含むイグニッションコイル3および燃料チューブ4の点群データが生成される。
そして、ステップS15において、周知の変換手法を用いて、イグニッションコイル3および燃料チューブ4の双方について、スキャニングされていない部分を含む点群データを、面を構成するメッシュデータに変換する。
次に、ステップS16において、距離算出部7hとして、イグニッションコイル3のメッシュデータと、燃料チューブ4のメッシュデータとに基づいて、イグニッションコイル3と燃料チューブ4との間の最小距離を算出する。つまり、各表面の任意の2点間の距離を求め、その中の最小値を最小距離とする。
そして、ステップS17において、最小距離が閾値以上であるか否かを判定する。最小距離が閾値以上の場合には、ステップS18に移行して、最小距離が閾値以上であることをディスプレイ8に情報提示する。
また、ステップS17において最小閾値が閾値未満である場合には、ステップS19に移行し、変位量算出部7iは、最小距離が閾値以上となるために必要な燃料チューブ4の変位量を算出する。算出された変位量は、ディスプレイ8に表示される。
また、ステップS13において信頼度が所定の信頼度未満である場合には、ステップS20に移行し、スキャニングしたデータが不足であるか否かを判定する。データが不足している場合には、ステップS21に移行し、3次元レーザスキャナ5によりスキャニングを再び行う必要があることを作業者に提示し、ステップS1に戻る。
また、ステップS20においてデータが不足していないと判定される場合には、燃料チューブ4が過度に変形しているためにステップS13における信頼度が低く判定されたものとして、ステップS18に移行して、その旨をディスプレイ8に表示する。
上述のように、本実施例では、3次元レーザスキャナ5の手動での操作により、イグニッションコイル3および燃料チューブ4を含む領域を外側からスキャニングして両部品の外表面の一部を含む計測データを取得し、第1位置合わせ部7aとして、設計データにおけるイグニッションコイルおよび燃料チューブを含む領域と、計測データにおけるイグニッションコイル3および燃料チューブ4を含む領域とを大まかに位置合わせし、そして、この大まかな位置合わせに基づいて、3次元レーザスキャナ5によるスキャニングの進捗度を算出することを継続する。そして、この進捗度が所定の進捗度閾値を越えたときに進捗度閾値を越えたことをディスプレイ8に情報提示する。このため、上記領域全体のスキャニングが完了することを待たずに、進捗度が進捗度閾値を越えたら直ぐに、部品検査における次の段階に移行する。従って、上記領域全体のスキャニングが完了してから次の段階に移行する場合と比べて部品検査にかかる時間を短縮することができる。
また、本実施例では、第1位置合わせ部7aによる大まかな位置合わせの後、進捗度算出部7bとして、リファレンスとなる設計データに基づく対象領域の点群データの点数と、第1位置合わせ部7aによる大まかな位置合わせによってリファレンスとターゲットとの間で互いにマッチングした点数と、の比からスキャニングの進捗度を算出する。このため、既知の設計データに基づく点群データの点数と、大まかな位置合わせで得られたマッチングした点数とによって上記の比を求めることでスキャニングの進捗度を効率的に算出することができる。
さらに、本実施例では、3次元レーザスキャナ5によりスキャニングされた距離に基づいてスキャニングの進捗度を算出する。上述のように、スキャニングの対象となる領域の基本形状等はデータベース6によって既知であるので、3次元レーザスキャナ5から逐次得られる点群データに基づき、3次元レーザスキャナ5の移動軌跡の推定が可能である。そして、この移動軌跡の長さに対して、3次元レーザスキャナ5によりスキャニングされた距離がどの程度含まれるのかに基づいてスキャニングの進捗度を算出することができる。
また、本実施例では、3次元レーザスキャナ5が通過した視点の数に基づいてスキャニングの進捗度を算出する。従って、3次元レーザスキャナ5が移動軌跡を描くまでに何個の代表的な視点を通過したかに基づいて、スキャニングの進捗度を求めることができる。
さらに、本実施例では、大まかな位置合わせの中で用いられたキーポイントの数に基づいてスキャニングの進捗度を算出する。上述のように、キーポイントの最大の数が、設計データから変換された点群データに基づいて決まっており、従って、このキーポイントの最大の数に対して、計測データから変換された点群データに基づくキーポイントの割合を求めることで、スキャニングの進捗度を算出することができる。
また、本実施例では、進捗度が進捗度閾値を越えた後に、イグニッションコイルおよび燃料チューブの設計データをイグニッションコイル3および燃料チューブ4の計測データの位置に詳細に位置合わせする。従って、進捗度が進捗度閾値を越えるまでの比較的短い時間だけイグニッションコイル3および燃料チューブ4を含む領域をスキャニングすればよいので、対象部品であるイグニッションコイル3および燃料チューブ4のみの詳細な位置合わせを早期に行うことができる。
以上、この発明を自動車のイグニッションコイル3と燃料チューブ4との間の隙間の計測に適用した一実施例を説明したが、この発明はこのような用途に限られず、複数の部品を含む組立体において対象部品の空間的な配置状態に関連した検査に広く適用することができる。上記実施例では、2部品の間の距離の計測を行っているが、対象部品が1つであっても本発明の適用が可能である。
また、本実施例では、径方向断面が円形である燃料チューブ4の非剛体位置合わせの例について説明したが、円形以外、例えば矩形の径方向断面を有する配管に本発明を適用してもよい。
また、上記実施例では、3次元レーザスキャナ5を作業者が手に持って操作する例を説明したが、ロボットによって3次元センサによるスキャニングを行う場合にも、本発明の適用が可能である。
また、本実施例では、3次元センサとして3次元レーザスキャナ5について説明したが、他の形式の3次元センサ、例えばToF形式のものやステレオカメラ等の三角測量方式のものなど、広く適用することができる。
Claims (7)
- 複数の部品を組み立ててなる組立体において対象とする少なくとも1つの部品の空間的な配置状態に関連した検査を行う部品検査方法であって、
対象部品を含む領域を外側から3次元センサによりスキャニングして前記対象部品の外表面の一部を含む計測データを徐々に取得し、
前記対象部品の外形状および該対象部品の前記組立体内での位置関係を含む設計データを取得し、
前記設計データにおける前記対象部品を含む領域と、前記計測データにおける前記対象部品を含む領域とを位置合わせし、
前記位置合わせに基づいて、前記スキャニングが進行した度合いを示す進捗度を算出し、
前記進捗度を所定の閾値と比較し、
前記進捗度が前記閾値を越えたときに前記閾値を越えたことを情報提示する、
部品検査方法。 - 前記計測データおよび前記設計データを点群データにそれぞれ変換し、
前記位置合わせすることは、前記設計データに基づく点群データにおける前記対象部品を含む領域と、前記計測データに基づく点群データにおける前記対象部品を含む領域とを位置合わせすることを含み、
前記進捗度を算出することは、前記設計データに基づく対象領域の点群データの点数と、前記設計データに基づく点群データと前記計測データに基づく点群データとの間で互いにマッチングした点数と、の比から前記進捗度を算出することを含む、請求項1に記載の部品検査方法。 - 前記進捗度を算出することは、前記3次元センサによりスキャニングされた距離に基づいて前記進捗度を算出することを含む、請求項1に記載の部品検査方法。
- 前記進捗度を算出することは、前記3次元センサが通過した視点の数に基づいて前記進捗度を算出することを含む、請求項1に記載の部品検査方法。
- 前記計測データおよび前記設計データを点群データにそれぞれ変換し、
この変換された各点群データのキーポイントを探索してこのキーポイントの特徴を記述することをさらに含み、
前記位置合わせすることは、前記設計データの点群データに関するキーポイントの特徴と前記計測データの点群データに関するキーポイントの特徴とを比較することを含み、
前記進捗度を算出することは、前記位置合わせの中で用いられたキーポイントの数に基づいて前記進捗度を算出することを含む、請求項1に記載の部品検査方法。 - 前記進捗度が前記閾値を越えた後に、前記対象部品の設計データを前記対象部品の計測データの位置に位置合わせすることをさらに含む、請求項1に記載の部品検査方法。
- 複数の部品を組み立ててなる組立体において対象とする少なくとも1つの部品の空間的な配置状態に関連した検査を行う部品検査装置であって、
対象部品を含む領域を外側からスキャニングし、計測データを徐々に取得する3次元センサと、
前記対象部品の外形状および該対象部品の前記組立体内での位置関係を含む設計データを蓄積するデータベースと、
前記対象部品の設計データを前記対象部品の計測データの位置に位置合わせする位置合わせ部と、
前記位置合わせ部での位置合わせに基づいて、前記スキャニングが進行した度合いを示す進捗度を算出する進捗度算出部と、
前記進捗度が所定の閾値を越えたときに前記閾値を越えたことを情報提示するデバイスと、
を備えた部品検査装置。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2022093397 | 2022-06-09 | ||
| JP2022093397 | 2022-06-09 | ||
| PCT/JP2023/005664 WO2023238451A1 (ja) | 2022-06-09 | 2023-02-17 | 部品検査方法および部品検査装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2023238451A1 JPWO2023238451A1 (ja) | 2023-12-14 |
| JP7747201B2 true JP7747201B2 (ja) | 2025-10-01 |
Family
ID=89117925
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024526236A Active JP7747201B2 (ja) | 2022-06-09 | 2023-02-17 | 部品検査方法および部品検査装置 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20250356475A1 (ja) |
| EP (1) | EP4538634A4 (ja) |
| JP (1) | JP7747201B2 (ja) |
| CN (1) | CN119325548A (ja) |
| WO (1) | WO2023238451A1 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5910894A (en) | 1994-01-11 | 1999-06-08 | Sensor Adaptive Machines, Inc. | Sensor based assembly tooling improvements |
| JP2010151577A (ja) | 2008-12-25 | 2010-07-08 | Shimizu Corp | 配筋検査装置および配筋検査方法 |
| CN113128610A (zh) | 2021-04-26 | 2021-07-16 | 苏州飞搜科技有限公司 | 一种工业零件位姿估计方法及系统 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104955418B (zh) * | 2012-12-24 | 2017-10-13 | 牙医技术G·P·L·有限公司 | 用在龈下测量的装置及方法 |
| JP6792927B2 (ja) | 2017-04-14 | 2020-12-02 | 一般財団法人電力中央研究所 | 三次元形状の計測方法 |
| US10948285B2 (en) * | 2017-07-28 | 2021-03-16 | Faro Technologies, Inc. | Three-dimensional measurement device mobile geometry verification |
| KR102442720B1 (ko) * | 2019-03-12 | 2022-09-13 | 주식회사 메디트 | 치아 보철 제조를 위한 3차원 스캔 데이터 처리 방법 |
| KR102228939B1 (ko) * | 2021-02-05 | 2021-03-17 | 한국과학기술연구원 | 3차원 자동 스캔 시스템 및 방법 |
-
2023
- 2023-02-17 CN CN202380045119.8A patent/CN119325548A/zh active Pending
- 2023-02-17 US US18/871,724 patent/US20250356475A1/en active Pending
- 2023-02-17 EP EP23819439.3A patent/EP4538634A4/en not_active Withdrawn
- 2023-02-17 JP JP2024526236A patent/JP7747201B2/ja active Active
- 2023-02-17 WO PCT/JP2023/005664 patent/WO2023238451A1/ja not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5910894A (en) | 1994-01-11 | 1999-06-08 | Sensor Adaptive Machines, Inc. | Sensor based assembly tooling improvements |
| JP2010151577A (ja) | 2008-12-25 | 2010-07-08 | Shimizu Corp | 配筋検査装置および配筋検査方法 |
| CN113128610A (zh) | 2021-04-26 | 2021-07-16 | 苏州飞搜科技有限公司 | 一种工业零件位姿估计方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2023238451A1 (ja) | 2023-12-14 |
| WO2023238451A1 (ja) | 2023-12-14 |
| EP4538634A4 (en) | 2025-09-17 |
| US20250356475A1 (en) | 2025-11-20 |
| CN119325548A (zh) | 2025-01-17 |
| EP4538634A1 (en) | 2025-04-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7716712B2 (ja) | 三次元モデル生成方法、情報処理装置およびプログラム | |
| US7327857B2 (en) | Non-contact measurement method and apparatus | |
| US6868194B2 (en) | Method for the extraction of image features caused by structure light using image reconstruction | |
| JP5388921B2 (ja) | 3次元距離計測装置及びその方法 | |
| EP2157403A1 (en) | Shape evaluation method, shape evaluation device, and 3d inspection device | |
| Rodríguez-Martín et al. | Macro-photogrammetry as a tool for the accurate measurement of three-dimensional misalignment in welding | |
| WO2013061976A1 (ja) | 形状検査方法およびその装置 | |
| JP5913903B2 (ja) | 形状検査方法およびその装置 | |
| US12553833B2 (en) | Visual inspection apparatus and visual inspection method | |
| JP2016217940A (ja) | 表面欠陥評価装置、表面欠陥検査システムおよび表面欠陥検査方法 | |
| Petruccioli et al. | Assessment of close-range photogrammetry for the low cost development of 3D models of car bodywork components | |
| CN117255931A (zh) | 图像处理装置、图像处理方法及图像处理程序 | |
| JP2003216931A (ja) | 特定パターン認識方法、特定パターン認識プログラム、特定パターン認識プログラム記録媒体および特定パターン認識装置 | |
| JP7747201B2 (ja) | 部品検査方法および部品検査装置 | |
| Fernández et al. | Laser scan planning based on visibility analysis and space partitioning techniques | |
| JP7726400B2 (ja) | 隙間検査方法および隙間検査装置 | |
| US20060274327A1 (en) | System and method of guiding real-time inspection using 3D scanners | |
| JP2572286B2 (ja) | 3次元形状寸法計測装置 | |
| JP7750410B2 (ja) | 部品検査方法および装置 | |
| JP2020169903A (ja) | トンネル内周面変位計測装置及びトンネル内周面変位計測方法 | |
| Hachem et al. | Modal approach based on global stereocorrelation for defects measurement in wire-laser additive manufacturing | |
| JP7399632B2 (ja) | 撮影処理装置、及び撮影処理方法 | |
| CN119533335B (zh) | 一种基于三维建模的轮盖检测方法及系统 | |
| US11561088B2 (en) | Modeling the topography of a three-dimensional surface | |
| JPH0755440A (ja) | 形状認識装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20241106 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250819 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250901 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7747201 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |