Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6982018B2 - 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム - Google Patents
[go: Go Back, main page]

JP6982018B2 - 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム - Google Patents

立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム Download PDF

Info

Publication number
JP6982018B2
JP6982018B2 JP2019034498A JP2019034498A JP6982018B2 JP 6982018 B2 JP6982018 B2 JP 6982018B2 JP 2019034498 A JP2019034498 A JP 2019034498A JP 2019034498 A JP2019034498 A JP 2019034498A JP 6982018 B2 JP6982018 B2 JP 6982018B2
Authority
JP
Japan
Prior art keywords
work
shooting
dimensional shape
unit
illumination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019034498A
Other languages
English (en)
Other versions
JP2020139798A (ja
Inventor
裕行 小野
剛 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Machinery Inc
Original Assignee
Canon Machinery Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Machinery Inc filed Critical Canon Machinery Inc
Priority to JP2019034498A priority Critical patent/JP6982018B2/ja
Priority to SG11202108533SA priority patent/SG11202108533SA/en
Priority to US17/430,965 priority patent/US11930262B2/en
Priority to MYPI2021004519A priority patent/MY207322A/en
Priority to PCT/JP2020/007897 priority patent/WO2020175596A1/ja
Publication of JP2020139798A publication Critical patent/JP2020139798A/ja
Application granted granted Critical
Publication of JP6982018B2 publication Critical patent/JP6982018B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、立体形状検出装置、立体形状検出方法、及び立体形状検出プログラムに関する。
ワーク(例えば、ワイヤボンディングを有する電子部品)の検査を行う方法として、まずワークの画像を取得し、画像からワークの立体形状を検出して、その立体形状に基づいて検査を実施することがある。物体の立体形状を検出する方法として、特許文献1のものがある。特許文献1のものは、図5に示すように、カメラ等からなる撮影手段101がZ移動機構102により上下動することにより、撮影手段101の焦点とワークWとの相対的な位置を変化させてワークWの表面を撮影することにより、焦点位置の異なる複数の画像を得る。そして、複数の画像のそれぞれの画像においてワークWの表面の合焦点位置を検出し、この検出したワークWの表面の合焦点位置の情報から補間により異なる焦点位置の間のワークWの表面の合焦点位置を算出し、合焦点位置の情報に基づいてワークWの立体形状を求める。
特許文献1に記載されたような方法でワークWを撮影する際は、明視野照明103使用されることが一般的であるが、検査部位の立体的特徴や、検査内容によっては、暗視野照明を用いた方が好ましいケースも考えられる。特許文献2のものは、明視野照明と暗視野照明とを備え、検査部位や検査内容に応じ、明視野照明と暗視野照明とを切り替えて撮影することにより、被検査体の検査画像を良好に得る。
特許第2960684号公報 特許第4745489号公報
明視野照明と暗視野照明とを備え、複数の照明条件で撮影を行う場合は、図6に示すような撮影シナリオで撮影される。すなわち、第1の照明条件(例えば明視野照明)で焦点移動(撮影手段を下降)させながら複数画像を取得後、第2の照明条件(例えば暗視野照明)に切替えて、逆方向で再度焦点移動(撮影手段を上昇)させながら、複数の画像を取得する必要がある。このように、撮影手段が上昇及び下降している間は撮影を実施しているため、ワークを移動させることはできない。すなわち、図6に示すように、撮影手段の下降及び上昇のサイクルが終了した後に、ワークの移動を行っている。この間、撮影手段は静止した状態となっている。このため、複数の照明条件によりワークの立体形状を検出する場合、検出サイクルが長くなるという問題がある。
また、撮影シナリオは、カメラの移動速度やカメラのフレームレートを考慮して生成する必要がある。このため、ユーザが撮影シナリオを設定しようとすると、専門的知識が必要であったり、演算に手間がかかる等で撮影シナリオの生成のために時間を要したりするという問題もある。
そこで、本発明は斯かる実情に鑑み、複数の照明条件で合焦点法に基づいてワークの立体形状を検出する際に、検出サイクルを短くすることができる立体形状検出装置、立体形状検出方法、及び立体形状検出プログラムを提供しようとするものである。
本発明の立体形状検出装置は、照明条件を可変として、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影する撮影部を備えた撮影手段と、前記撮影手段を制御するとともに、ワークの立体形状を検出する制御手段とを備えた立体形状検出装置において、前記制御手段は、予め設定された条件に基づいて、ワークを撮影するための条件である撮影シナリオを生成する撮影シナリオ生成部と、前記撮影手段の照明条件を可変とし、複数の照明条件に切替える照明調整部と、同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で作成する全焦点画像作成部とを備え、前記撮影部とワークとの、1回の相対的な接近又は離間中に、前記照明調整部が複数の照明条件に切替えて、前記撮影部が夫々の照明条件で、前記撮影シナリオ生成部に設定された撮影シナリオに基づいて焦点の異なる複数の画像データを取得し、前記全焦点画像作成部が夫々の照明条件の全焦点画像を形成するものである。
本発明の立体形状検出装置によれば、撮影部の1回のワークへの相対的な接近又は離間中に、複数の照明条件でワークを撮影するものであるため、1回のワークへの接近又は離間で複数種の照明条件の全焦点画像を形成することができる。これにより、1回のワークへの接近又は離間によりワークの立体形状を検出するために必要な情報を得ることができ、撮影部が、ワークに対して撮影時とは反対方向に移動する間に、次の検出対象となるワークを検出位置に移動させることができる。
前記撮影シナリオは、前記撮影部とワークとの相対的な接近又は離間速度、前記撮影手段の照明条件、撮影タイミング、及び撮影枚数が設定されたものとすることができる。
前記構成において、前記撮影シナリオは、前記撮影部とワークとの相対的な接近又は離間速度、前記撮影手段の照明条件、撮影タイミング、及び撮影枚数が設定されたものとすることができる。
前記構成において、前記撮影手段は、明視野照明及び暗視野照明を備えたものであってもよい。これにより、平面部では明視野照明により立体形状の検出を行いやすく、傾斜部では暗視野照明により立体形状の検出を行いやすいため、ワークが平面部と傾斜部を有している場合であっても、平面部及び傾斜部の立体形状の検出を正確に行うことができ、検出精度が高いものとなる。
前記構成において、前記制御手段の撮影シナリオ生成部は、撮影手段の移動速度の上限及び撮影手段のフレームレートの上限に基づいて、前記撮影シナリオを生成するものであってもよい。
前記構成において、予め設定する条件は、前記撮影部の移動範囲、前記撮影部の撮影ピッチ、及び複数の照明条件のいずれかとすることができる。
前記構成において、前記ワークは、ボンディングワイヤを含む電子部品である場合に特に有効なものとなる。
本発明の立体形状検出方法は、照明条件を可変としてワークを撮影する撮影部が、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影し、画像に基づいてワークの立体形状を検出する立体形状検出方法において、予め設定された条件に基づいて、ワークを撮影するための条件であ撮影シナリオを生成し、前記撮影部とワークとの、1回の相対的な接近又は離間中に複数の照明条件に切替えて、設定された前記撮影シナリオに基づいてワークを複数回撮影して、夫々の照明条件で焦点の異なる複数の画像データを取得し、同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で形成するものである。
前記構成において、 前記撮影部とワークとの相対的な接近又は離間中でワークを複数回撮影し、その方向と逆の方向に前記撮影部とワークとが相対的に移動している間に、次の検出対象となるワークを検出位置に移動させつつ、全焦点画像を作成するものであってもよい。
本発明の立体形状検出プログラムは、照明条件を可変としてワークを撮影する撮影部が、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影し、画像に基づいてワークの立体形状の検出を実行させる立体形状検出プログラムにおいて、予め設定された条件に基づいて、ワークを撮影するための条件である撮影シナリオを生成するステップと、前記撮影部とワークとの、1回の相対的な接近又は離間中に複数の照明条件に切替えて、設定された前記撮影シナリオに基づいてワークを複数回撮影して、夫々の照明条件で焦点の異なる複数の画像データを取得するステップと、同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で形成するステップとを備えたものである。
本発明の立体形状検出装置、立体形状検出方法、及び立体形状検出プログラムは、撮影部の1回のワークへの接近又は離間によりワークの立体形状を検出するために必要な情報を得ることができ、撮影部が、ワークに対して撮影時とは反対方向に移動する間に、次の検出対象となるワークを検出位置へ移動させることができるため、複数の照明条件で合焦点法に基づいてワークの立体形状を検出する際に、検出サイクルを短くすることができる。
本発明の立体形状検出装置を示すブロック図である。 本発明の立体形状検出装置を構成する制御手段のブロック図である。 本発明の立体形状検出装置の制御手段により作成される撮影シナリオの一例を示す図である。 本発明の立体形状検出方法の手順を示すフローチャート図である。 従来の立体形状検出装置を示すブロック図である。 従来の立体形状検出方法において使用される撮影シナリオの一例を示す図である。
以下、本発明の実施の形態を図1〜図4に基づいて説明する。
本発明の立体形状検出装置は、ワークの形状を立体的に検出するものである。本実施形態では、ワークは、ボンディングワイヤを含む電子部品であり、具体的には、ワークは、基板本体に設けられたチップ上にボンディングパッドが設けられ、ワイヤの一端部がボンディングパッドに接合されており、ワイヤの他端部が基板本体上のランド部に接合されたものである。そして、このようなワークが基板本体に多数並んでいる。
本発明の立体形状検出装置は、図1に示すように、撮影手段1と制御手段2(コントローラ)とから構成されている。
撮影手段1は、カメラ3と、レンズ4と、明視野照明5と、暗視野照明6と、照明電源7とを備えている。カメラ3は、例えばCCDカメラにて構成され、レンズ4は下方に向けられて、撮影物体であるワークWの画像データを取得する。カメラ3及びレンズ4が、ワークWの画像を取得する撮影部1aとなる。カメラ3は制御手段2に電気的に接続されており、カメラ3により取得されたワークWの画像データは、制御手段2内に取り込まれて画像処理される。
カメラ3は図示省略のフレームに支持されており、Z移動機構8によりカメラ3、レンズ4、及び明視野照明5からなる移動ユニットU(図1において点線で囲まれた部分)を、図1の矢印に示すように、ワークWと相対的に接近及び離間する方向(本実施形態では、Z(上下)方向)に往復動させることができる。すなわち、本実施形態では、撮影部1a及び明視野照明5が上下に移動することになる。Z移動機構8は、シリンダ機構、ボールねじ機構、リニアモータ機構等の種々の機構にて構成することができる。Z移動機構8は、制御手段2に電気的に接続されており、制御手段2の制御によりZ移動機構8が駆動される。これにより、撮影部1aを上下動させつつワークWの撮影を行えば、焦点の異なるワークWの画像を複数取得することができる。
本実施形態において、照明手段は図1に示すように、明視野照明5と暗視野照明6とを備える。明視野照明とは、測定対象物を照らす光線を光軸中心に沿って垂直に照明することをいう。暗視野照明とは、測定対象物を照らす光線を光軸中心ではなく、斜めから照射することをいう。すなわち、一般的に明視野は、直接光を観察するもので、その場合の照明方法は直接光照明法といい、例えばチップ表面等の平面部では正常部分が明るく観察される。また、暗視野は、散乱光を観察するもので、その場合の照明方法は散乱光照明法といい、例えばボンディングワイヤ等の傾斜部が明るく観察される。
本実施形態の明視野照明5は、レンズ4の光路内に組み込まれた、いわゆる同軸照明の構成となっている。すなわち、明視野照明5(光源)から照射された照射光は、レンズ4に内蔵されたハーフミラー9を反射してワークWに到達し、ワークWからの反射光がカメラ3に到達する。明視野照明5は、照明電源7を介して制御手段2と電気的に接続されており、制御手段2の制御により照明電源7が切替られて、明視野照明5をオンオフ制御したり、明視野照明5からの照射光の強さを変化させたりすることができる。
暗視野照明6は、ワークWに対して斜めから照射できるものであり、例えば発光部が周方向に所定ピッチ(等ピッチであっても、不定ピッチであってもよい。)で複数個配設した、いわゆるリング照明等にて構成したり、撮影軸とワークWとが直交するように配置されているときに、ワークWと照明軸とのなす角(仰角)が所定角度となるように単一の発光部を配設したもの等で構成することができる。暗視野照明6は、照明電源7を介して制御手段2と電気的に接続されており、制御手段2の制御により照明電源7が切替られて、暗視野照明6をオンオフ制御したり、暗視野照明6からの照射光の強さを変化させたりすることができる。
照明電源7は複数のチャンネルを有しており、後述する制御手段2の照明調整部11(図2参照)の制御にて明視野照明5又は暗視野照明6のいずれか一方をオンオフ制御したり、明視野照明5の明るさ(照明光の強さ)及び暗視野照明6の明るさ(照明光の強さ)を個別に変更することができる。
ワークWは、暗視野照明6の下方に配置されたテーブル20に載置される。テーブル20は、図示省略の駆動手段により水平方向の移動が可能である。これにより、ワークWを移動させて、撮影位置を調整することができる。また、テーブル20が上下方向に移動可能である場合は、テーブル20を上下動させることによって、撮影部1aの位置を動かすことなく(上下動させることなく)焦点位置を変化させることができる。
制御手段2は、例えば、CPU(Central Processing Unit)を中心としてROM(Read Only Memory)やRAM(Random Access Memory)等がバスを介して相互に接続されたマイクロコンピュータで構成できる。マイクロコンピュータには記憶装置が接続される。記憶装置は、HDD(Hard Disc Drive)やDVD(Digital Versatile Disk)ドライブ、CD−R(Compact Disc-Recordable)ドライブ、EEPROM(Electronically Erasable and Programmable Read Only Memory)等から構成できる。なお、ROMには、CPUが実行するプログラムやデータが格納されている。
制御手段2は、図2に示すように、撮影シナリオ生成部10と、照明調整部11と、Z移動機構制御部12と、メモリ13と、全焦点画像作成部14とを備えている。撮影シナリオ生成部10は、予め設定された条件に基づいて撮影シナリオを生成するものである。「撮影シナリオ」とは、ワークWを撮影するための条件であって、具体的には、撮影部1aのワークWに対する接近又は離間速度、撮影手段1の照明条件、撮影タイミング、及び撮影枚数が設定された条件である。「予め設定された条件」とは、撮影部1aの移動範囲、撮影部1aの撮影ピッチ(どのような距離間隔で撮影するか)、及び複数の照明条件のいずれか又は全部であり、ユーザにより設定される。また、「複数の照明条件」とは、本実施形態では、第1の照明条件と第2の照明条件との2つの照明条件からなり、第1の照明条件が明視野照明、第2の照明条件が暗視野照明であるとする。
すなわち、ユーザがGUI15(Graphical User Interface:コンピュータとユーザとを結びつけるインターフェースであり、情報の表示や操作を行うものである。画面上にはウィンドウ、アイコン、ボタンなどが表示される。)を介して撮影部1aの移動範囲、撮影部1aの撮影ピッチ、及び複数の照明条件を設定する。これらは、ワークWの種類、ワークWの検査を行うために必要な検査精度、カメラ3やレンズ4の性能等を考慮して、ユーザが任意に設定する。ユーザに設定されたこれらの条件から、撮影シナリオ生成部10は、ワークWを撮影するための撮影シナリオを生成する。具体的には、撮影シナリオ生成部10は、撮影部1aの移動速度の上限及びカメラ3のフレームレート(カメラ3が1秒間に出力できる画像枚数)の上限の情報を有しており、これらの情報と、ユーザに与えられた条件から、撮影部1aのワークWに対する接近又は離間速度、撮影手段1の照明条件、及び撮影枚数を演算により決定する。なお、撮影シナリオ生成部10は、カメラ3の撮影視野の設定から、フレームレートを演算することができる。すなわち、撮影視野が狭いと、転送するデータ量が少なくなるためフレームレートが上がり、撮影視野が広いと、転送するデータ量が多くなるためフレームレートが下がるため、撮影シナリオ生成部10はカメラ3の撮影視野に基づきこれらの演算も行うことができる。
前記したように、撮影シナリオは、ユーザから与えられた条件と、撮影部1aの移動速度上限及びカメラ3のフレームレートの上限とから計算することにより決定される。すなわち、撮影する際に、撮影部1aの移動速度とカメラ3のフレームレートとで、どちらの能力が低く、撮影の能力や速度を制約するかは、ユーザから与えられた設定に依存する。例えば、細かい撮影ピッチで頻繁に画像を取得する場合は、撮影部1aの移動速度(つまり、Z移動機構8の能力)は上限に達していない(それ以上の速さにできる余力がある)一方、カメラ3のフレームレートの上限(カメラ3が撮影できる最大速さ)で撮影することになる。すなわち、この場合はフレームレートの上限が撮影の能力や速度に対して支配的なものとなる。一方、粗い撮影ピッチで少ない画像を取得する場合は、カメラ3のフレームレートは上限に達していない(それ以上の速さで撮影できる余力がある)一方、撮影部1aの移動速度は上限(Z移動機構8が出力できる最大能力)に達する。すなわち、この場合は撮影部1aの移動速度上限が撮影の能力や速度に対して支配的なものとなる。
撮影シナリオの一例として、本実施形態では図3のようなものとしている。図3の撮影シナリオは、撮影部1aのZ方向の移動速度が、下降の際は、(撮影部1aの移動範囲)/t1であり、上昇の際は、(撮影部1aの移動範囲)/(t2−t1)である。なお、撮影部1aの移動範囲はユーザにより与えられたものである。照明条件は、明視野照明である第1の照明条件と、暗視野照明である第2の照明条件の2種類から構成され、ユーザに与えられた設定である。撮影タイミングは、撮影部1aが下降するタイミングでワークWを撮影するものであり、ユーザに与えられた撮影の距離間隔(撮影ピッチ)から、カメラ3は、撮影部1aの下降中に時間(t1/10)毎のタイミングで画像データを取得する。撮影枚数は、第1の照明条件と第2の照明条件とで夫々5枚ずつ、合計10枚である。
照明調整部11は、照明電源7を制御するものであって、撮影手段1の照明条件を可変とし、1回のワークWへの接近又は離間中に、複数の照明条件に切替えるものである。すなわち、照明調整部11は、撮影シナリオ生成部10にて生成された撮影シナリオに基づき、照明電源7を、第1の照明条件と第2の照明条件とに交互に切替えるように照明電源7を制御する。この場合、明視野照明5及び暗視野照明6をオンオフ制御してもよいが、本実施形態では、明視野照明5及び暗視野照明6の強さを夫々コントロールする。これにより、高速に第1の照明条件と第2の照明条件とを切替えることができる。
Z移動機構制御部12は、Z移動機構8を制御するものである。すなわち、Z移動機構制御部12は、撮影シナリオ生成部10にて生成された撮影シナリオに基づき、Z移動機構8を、撮影シナリオの速度で撮影部1aを移動させるように制御する。具体的には、図3に示す撮影シナリオを生成した場合、Z移動機構制御部12は、撮影部1aが下降する際は、(撮影部1aの移動範囲)/t1の速度で撮影部1aが移動するようにZ移動機構8を制御し、撮影部1aが上昇する際は、(撮影部1aの移動範囲)/(t2−t1)の速度で撮影部1aが移動するようにZ移動機構8を制御する。
メモリ13は、カメラ3により取得した画像データを格納するものである。メモリ13は、複数の格納部(第1部13a、第2部13b・・・)を有しており、同じ照明条件で取得した画像データ毎に格納される。例えば、本実施形態では、第1部13aには第1の照明条件により撮影した画像データのみが格納され、第2部13bには第2の照明条件により撮影した画像データのみが格納される。このように、照明条件毎にグループ分けされた状態で画像データが格納される。
全焦点画像作成部14は、いわゆる合焦点法による処理を行うものであって、焦点の異なる複数の画像データに基づいて全焦点画像を作成するものである。この場合、全焦点画像作成部14は、照明条件毎で夫々の全焦点画像を作成する。全焦点画像とは、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し(合焦位置を検出し)、フォーカスの合っている局所画像の組み合わせで再構成したものであり、全てのピクセルにおいてフォーカスが合っている。全焦点画像は、同一の照明条件毎に作成される。すなわち、本実施形態では、第1の照明条件により撮影し、焦点の異なる複数の画像データから作成された第1の全焦点画像と、第2の照明条件により撮影し、焦点の異なる複数の画像データから作成された第2の全焦点画像とが作成される。これらの全焦点画像は表示手段16に表示される。
また、制御手段2には図示省略の検査部が設けられていてもよく、夫々の全焦点画像に基づいてワークWの良否の判定を行えるようにしてもよい。
本実施形態の立体形状検出装置は、立体形状検出プログラムをコンピュータにインストールすることで実現することができる。その立体形状検出プログラムは、ワークWを撮影する撮影部1aが、複数の照明条件で、ワークWと相対的に接近及び離間して焦点の異なるワークWの画像を撮影し、画像に基づいてワークWの立体形状の検出を実行させる立体形状検出プログラムにおいて、予め設定された条件に基づいて、ワークWを撮影するための条件である撮影シナリオを生成するステップと、前記撮影部1aとワークWとの、1回の相対的な接近又は離間中に複数の照明条件に切替えてワークWを複数回撮影するステップと、同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで再構成した全焦点画像を、夫々の照明条件毎で作成するステップとを備えている。
前記立体形状検出プログラムがインストールされた本実施形態の立体形状検出装置を使用して、ワークW(本実施形態では、ボンディングワイヤを有する電子部品)の立体形状を検出する方法を図4を用いて説明する。
ユーザは、ワークWの種類、ワークWの検査を行うために必要な検査精度、カメラ3やレンズ4の性能等から、GUI15より、撮影シナリオを生成するための条件を与える(ステップS1)。本実施形態において、ユーザが設定する条件は、撮影部1aの移動範囲、撮影部1aの撮影ピッチ(どのような距離間隔で撮影するか)、及び複数の照明条件である。照明条件は、本実施形態では、第1の照明条件である明視野照明と、第2の照明条件である暗視野照明の2つとする。
撮影シナリオ生成部10は、ユーザに設定されたこれらの条件から、図3に示すような、ワークWを撮影するための撮影シナリオを生成する(ステップS2)。すなわち、撮影シナリオ生成部10は、撮影部1aの移動速度の上限及びカメラ3のフレームレートの上限の情報と、ユーザに与えられた条件とから、撮影部1aのワークWに対する接近又は離間速度、撮影手段1の照明条件、及び撮影枚数を演算により決定する。
生成された撮影シナリオに基づいて、Z移動機構制御部12は、撮影部1aが下降する際は、(撮影部1aの移動範囲)/t1の速度で撮影部1aが移動するようにZ移動機構8を制御し、撮影部1aが上昇する際は、(撮影部1aの移動範囲)/(t2−t1)の速度で撮影部1aが移動するようにZ移動機構8を制御する。
この場合、カメラ3は、1回のワークへの接近(下降)中に、時間(t1/10)毎に画像データを取得する。その際、照明電源7は、照明調整部11の制御にて照明の強さをコントロールすることにより、撮影毎に、第1の照明条件(明視野照明)と第2の照明条件(暗視野照明)とに交互に切替える。これにより、第1の照明条件で焦点の異なる複数(本実施形態では5枚)の画像データを取得するとともに、第2の照明条件で焦点の異なる複数(本実施形態では5枚)の画像データを取得する(ステップS3)。第1の照明条件により撮影された画像データは、メモリ13の第1部13aに格納され、第2の照明条件により撮影された画像データは、メモリ13の第2部13bに格納される。
次に、ワークWからの離間(上昇)中に、全焦点画像作成部14は、第1の照明条件により撮影し、焦点の異なる複数の画像データから作成された第1の全焦点画像と、第2の照明条件により撮影し、焦点の異なる複数の画像データから作成された第2の全焦点画像とを作成する3D合成処理が行われる(ステップS4)。これらの全焦点画像は表示手段16に表示される。このとき、制御手段2は、夫々の全焦点画像に基づいて、ワークの良否の判断を行ってもよい。
立体形状の検出対象となるワークWがさらに存在する場合には(ステップS5)、撮影部1aの上昇中、すなわち、制御手段2が前記3D合成等を行っている間に、次の検出対象となるワークWを検出位置(レンズ4の下方位置)に移動させ(ステップS6)、次のワークWでもステップS3及びS4を実行する。
本発明の立体形状検出装置、立体形状検出方法、及び立体形状検出プログラムは、撮影部1aの1回のワークWへの接近中に、複数の照明条件でワークWを撮影するものであるため、1回のワークWへの接近で複数種(本実施形態では2種)の照明条件の全焦点画像を形成することができる。すなわち、1回のワークWへの接近によりワークWの立体形状を検出するために必要な情報を得ることができ、撮影部1aが上昇する間に、画像処理を行ったり、次の検出対象となるワークWを検出位置に移動させることができるため、複数の照明条件で合焦点法に基づいてワークWの立体形状を検出する際に、検出サイクルを短くすることができる。
前記実施形態では、照明条件は、第1の照明条件と第2の照明条件との2つの条件であったが、第2実施形態として、3つ以上の照明条件としてもよい。この場合、明視野照明5を複数の強さとしたり、暗視野照明6を複数の強さとしたりすれば、夫々の照明の異なる強さの数だけ照明条件ができる。すなわち、照明強さL1での明視野照明を第1の照明条件、・・・照明強さLn(nは1以上の任意の数)での明視野照明を第nの照明条件(L1>・・・>Ln)、強さl1での暗視野照明を第(n+1)の照明条件、・・・照明強さlm(mは1以上の任意の数)での暗視野照明を第(n+m)の照明条件(l1>・・・>lm)として、n又はmが2以上(すなわち、明視野照明と暗視野照明とのいずれかが複数の強さで照射する)であれば、3つ以上の照明条件とすることができる。この場合、照明条件の数に応じた全焦点画像が形成される。
第3の実施形態として、撮影手段1として明視野照明5のみを備え、暗視野照明6を備えないものであってもよい。この場合、照明強さL1での明視野照明を第1の照明条件、照明強さL2での明視野照明を第2の照明条件・・・とすることにより、明視野照明5のみで複数の照明条件を構成することができる。
第4の実施形態として、撮影手段1として暗視野照明6のみを備え、明視野照明5を備えないものであってもよい。この場合、照明強さl1での暗視野照明を第1の照明条件、照明強さl2での暗視野照明を第2の照明条件・・・とすることにより、暗視野照明6のみで複数の照明条件を構成することができる。
第5の実施形態として、撮影部1aの上昇中にワークWの撮影を行い、撮影部1aの下降中に画像処理及び次のワークWの移動を行ってもよい。さらに、立体形状の検出対象であるワークWと、次の検出対象であるワークWとの距離が近い場合等は、ワークWの移動距離が短いため、次のワークWへの移動時間が短い場合がある。この場合は、撮影部1aの下降中(上昇中)にワークWの撮影を行い、次のワークWへ移動して、次に撮影部1aが上昇(下降)する際に次のワークWの撮影を行ってもよい。
第6の実施形態として、Z移動機構制御部12は、ワークWを載置するテーブル20と電気的に接続されていてもよく、テーブル20の上下動を制御することにより焦点を移動させるものであってもよい。また、Z移動機構制御部12は、Z移動機構8及びテーブル20の両方を制御するものであってもよい。
以上、本発明の実施形態につき説明したが、本発明は前記実施形態に限定されることなく種々の変形が可能であって、例えば、立体形状の検出対象となるワークとしては、電子部品に限らず、立体的形状を有するものであれば種々のものであってよい。電子部品である場合、ボンディングワイヤを有さないものであってもよく、例えばチップが階段状に積層されているもの等の立体形状を検出するものであってもよい。
撮影シナリオを構成する要素としては、撮影部とワークとの相対的な接近又は離間速度、撮影手段の照明条件、撮影タイミング、及び撮影枚数のうち、いずれか1つから構成されても、いずれか2つ、いずれか3つから構成されてもよいし、これら以外の要素にて構成されてもよい。すなわち、撮影シナリオは、ワークが撮影される環境、カメラやレンズの性能、ワークの種類等に応じて種々の要素にて構成することができる。撮影シナリオを生成するためにユーザが予め設定する条件としては、撮影部の移動範囲、撮影部の撮影ピッチ、及び複数の照明条件のうち、いずれか1つであっても、いずれか2つであっても、3つ全てであってもよいし、これら以外の条件を設定するものであってもよい。
夫々の照明条件での撮影は、Z方向に等間隔で撮影するのが好ましいが、必ずしも等間隔でなくてもよい。例えば、照明条件が2つの場合に、照明条件1と照明条件2とで交互に切替えるのが立体形状の合成においては好ましいが、交互ではなく、照明条件1、照明条件1、照明条件2の順に撮影する等であってもよい。また、1回の下降中(又は上昇中)で、ある高さ範囲では照明条件1のみで撮影し、それ以外の高さ範囲では照明条件2のみで撮影する等の設定を行ってもよい。
明視野照明を備える場合、明視野照明はレンズの外に設けられていてもよい。この場合、Z方向へ移動する移動ユニットは、カメラ及びレンズからなる撮影部のみであって、明視野照明はZ方向へ移動しない構成とすることができる。
1 撮影手段
1a 撮影部
2 制御手段
5 明視野照明
6 暗視野照明
10 撮影シナリオ生成部
11 照明調整部
14 全焦点画像作成部
W ワーク

Claims (9)

  1. 照明条件を可変として、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影する撮影部を備えた撮影手段と、前記撮影手段を制御するとともに、ワークの立体形状を検出する制御手段とを備えた立体形状検出装置において、
    前記制御手段は、
    予め設定された条件に基づいて、ワークを撮影するための条件である撮影シナリオを生成する撮影シナリオ生成部と、
    前記撮影手段の照明条件を可変とし、複数の照明条件に切替える照明調整部と、
    同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で作成する全焦点画像作成部とを備え
    前記撮影部とワークとの、1回の相対的な接近又は離間中に、前記照明調整部が複数の照明条件に切替えて、前記撮影部が夫々の照明条件で、前記撮影シナリオ生成部に設定された撮影シナリオに基づいて焦点の異なる複数の画像データを取得し、前記全焦点画像作成部が夫々の照明条件の全焦点画像を形成することを特徴とする立体形状検出装置。
  2. 前記撮影シナリオは、前記撮影部とワークとの相対的な接近又は離間速度、前記撮影手段の照明条件、撮影タイミング、及び撮影枚数が設定されたものであることを特徴とする請求項1に記載の立体形状検出装置。
  3. 前記撮影手段は、明視野照明及び暗視野照明を備えたことを特徴とする請求項1又は請求項2に記載の立体形状検出装置。
  4. 前記制御手段の撮影シナリオ生成部は、撮影部の移動速度の上限及び撮影手段のフレームレートの上限に基づいて、前記撮影シナリオを生成することを特徴とする請求項1〜請求項3のいずれか1項に記載の立体形状検出装置。
  5. 予め設定する条件は、前記撮影部の移動範囲、前記撮影部の撮影ピッチ、及び複数の照明条件のいずれかであることを特徴とする請求項1〜請求項4のいずれか1項に記載の立体形状検出装置。
  6. 前記ワークは、ボンディングワイヤを含む電子部品であることを特徴とする請求項1〜請求項5のいずれか1項に記載の立体形状検出装置。
  7. 照明条件を可変としてワークを撮影する撮影部が、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影し、画像に基づいてワークの立体形状を検出する立体形状検出方法において、
    予め設定された条件に基づいて、ワークを撮影するための条件であ撮影シナリオを生成し、
    前記撮影部とワークとの、1回の相対的な接近又は離間中に複数の照明条件に切替えて、設定された前記撮影シナリオに基づいてワークを複数回撮影して、夫々の照明条件で焦点の異なる複数の画像データを取得し
    同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で形成することを特徴とする立体形状検出方法。
  8. 前記撮影部とワークとの相対的な接近又は離間中でワークを複数回撮影し、その方向と逆の方向に前記撮影部とワークとが相対的に移動している間に、次の検出対象となるワークを検出位置に移動させつつ、全焦点画像を作成することを特徴とする請求項7に記載の立体形状検出方法。
  9. 照明条件を可変としてワークを撮影する撮影部が、ワークと相対的に接近及び離間して焦点の異なるワークの画像を複数の照明条件で撮影し、画像に基づいてワークの立体形状の検出を実行させる立体形状検出プログラムにおいて、
    予め設定された条件に基づいて、ワークを撮影するための条件である撮影シナリオを生成するステップと、
    前記撮影部とワークとの、1回の相対的な接近又は離間中に複数の照明条件に切替えて、設定された前記撮影シナリオに基づいてワークを複数回撮影して、夫々の照明条件で焦点の異なる複数の画像データを取得するステップと、
    同一の照明条件で撮影され、焦点の異なる複数の画像データに基づいて、局所領域ごとにフォーカスを評価し、フォーカスの合っている局所画像の組み合わせで合成処理した全焦点画像を、夫々の照明条件で形成するステップとを備えたことを特徴とする立体形状検出プログラム。
JP2019034498A 2019-02-27 2019-02-27 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム Active JP6982018B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019034498A JP6982018B2 (ja) 2019-02-27 2019-02-27 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム
SG11202108533SA SG11202108533SA (en) 2019-02-27 2020-02-27 Three-dimensional shape detection device, three-dimensional shape detection method, and three-dimensional shape detection program
US17/430,965 US11930262B2 (en) 2019-02-27 2020-02-27 Three-dimensional shape detection device, three-dimensional shape detection method, and three-dimensional shape detection program
MYPI2021004519A MY207322A (en) 2019-02-27 2020-02-27 Three-dimensional shape detection device, three-dimensional shape detection method, and three-dimensional shape detection program
PCT/JP2020/007897 WO2020175596A1 (ja) 2019-02-27 2020-02-27 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019034498A JP6982018B2 (ja) 2019-02-27 2019-02-27 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム

Publications (2)

Publication Number Publication Date
JP2020139798A JP2020139798A (ja) 2020-09-03
JP6982018B2 true JP6982018B2 (ja) 2021-12-17

Family

ID=72240096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019034498A Active JP6982018B2 (ja) 2019-02-27 2019-02-27 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム

Country Status (5)

Country Link
US (1) US11930262B2 (ja)
JP (1) JP6982018B2 (ja)
MY (1) MY207322A (ja)
SG (1) SG11202108533SA (ja)
WO (1) WO2020175596A1 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2960684B2 (ja) 1996-08-02 1999-10-12 株式会社日立製作所 立体形状検出方法及びその装置
JP4745489B2 (ja) 2000-08-30 2011-08-10 イビデン株式会社 外観検査装置及びそれを用いたプリント配線板の外観検査方法
JP3933060B2 (ja) * 2003-02-26 2007-06-20 トヨタ自動車株式会社 ボンディングワイヤ検査方法
SG164292A1 (en) * 2009-01-13 2010-09-29 Semiconductor Technologies & Instruments Pte System and method for inspecting a wafer
JP5942847B2 (ja) 2010-05-07 2016-06-29 株式会社ニコン 高さ測定方法及び高さ測定装置
JP6161253B2 (ja) * 2012-11-05 2017-07-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
WO2018178517A1 (en) * 2017-03-29 2018-10-04 Engemma Oy Gemological object recognition

Also Published As

Publication number Publication date
MY207322A (en) 2025-02-19
US20220014656A1 (en) 2022-01-13
WO2020175596A1 (ja) 2020-09-03
US11930262B2 (en) 2024-03-12
SG11202108533SA (en) 2021-09-29
JP2020139798A (ja) 2020-09-03

Similar Documents

Publication Publication Date Title
US11009344B2 (en) Image observing device, image observing method, image observing program, and computer-readable recording medium
US9404739B2 (en) Shape measuring device, program installed into this device, and recording medium storing this program
KR102408322B1 (ko) 자동-초점 시스템
TWI580948B (zh) 檢測部件之方法及設備
US10746539B2 (en) Shape measuring device and shape measuring method
JP6230434B2 (ja) 画像検査装置、画像検査方法及び画像検査プログラム並びにコンピュータで読み取り可能な記録媒体
JP6279048B2 (ja) 形状測定装置
TWI697656B (zh) 線形狀檢查裝置以及線形狀檢查方法
JP2017107201A (ja) 動的オートフォーカスシステム
JP2969403B2 (ja) ボンデイングワイヤ検査装置
CN110940668A (zh) 可调整取像组合的自动光学检测设备及取像组合调整方法
JPWO2019167150A1 (ja) 像解析装置、解析装置、形状測定装置、像解析方法、測定条件決定方法、形状測定方法及びプログラム
JP6355023B2 (ja) 表面形状測定装置における測定対象物アライメント方法及び表面形状測定装置
JP5028567B2 (ja) 光照射装置及び調光方法
JP6982018B2 (ja) 立体形状検出装置、立体形状検出方法、及び立体形状検出プログラム
JP3933060B2 (ja) ボンディングワイヤ検査方法
JP2009014696A (ja) 照度可変照明部及び撮像部の独立可動における外観検査装置
JP2014134389A (ja) 形状測定装置、形状測定方法および形状測定プログラム
CN106970082A (zh) 检查装置
JP7128646B2 (ja) 形状測定装置
JPH1137723A (ja) 高さ検査装置
US10704899B2 (en) Shape measuring device and shape measuring method
JP3868917B2 (ja) 三次元計測装置及び検査装置
JP4034325B2 (ja) 三次元計測装置及び検査装置
JP2007334423A (ja) 自動撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210611

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211118

R150 Certificate of patent or registration of utility model

Ref document number: 6982018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250