Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7685339B2 - 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器 - Google Patents
[go: Go Back, main page]

JP7685339B2 - 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器 - Google Patents

拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器 Download PDF

Info

Publication number
JP7685339B2
JP7685339B2 JP2021025735A JP2021025735A JP7685339B2 JP 7685339 B2 JP7685339 B2 JP 7685339B2 JP 2021025735 A JP2021025735 A JP 2021025735A JP 2021025735 A JP2021025735 A JP 2021025735A JP 7685339 B2 JP7685339 B2 JP 7685339B2
Authority
JP
Japan
Prior art keywords
unit
image
stage
observation
objective lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021025735A
Other languages
English (en)
Other versions
JP2022127538A (ja
Inventor
亮介 近藤
俊介 佐藤
傑 関谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2021025735A priority Critical patent/JP7685339B2/ja
Publication of JP2022127538A publication Critical patent/JP2022127538A/ja
Application granted granted Critical
Publication of JP7685339B2 publication Critical patent/JP7685339B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)

Description

本発明は、拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器に関する。
デジタルマイクロスコープ等の拡大観察装置においては、撮影条件や計測条件などユーザが設定しなければならない項目が多い。類似する観察対象物を繰り返し観察するユーザは、毎回すべての設定を確認することに時間を費やしている。これに対して、照明の明るさをはじめとする撮影条件と計測条件を、計測画像データとを合わせて保存可能とすることが考えられる。この方法であれば、ユーザは保存された計測画像データを選択することで、計測動作を再現することができる。
しかしながら、この方法では例えば測定条件の一部のみを再現することはできず、使い勝手において柔軟性に欠けるものであった。
特開2002-267943号公報
本発明の目的の一は、過去に画像を撮影した動作を再現可能としつつ、再現する内容の選択や編集を可能とした拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を提供することにある。
課題を解決するための手段及び発明の効果
本発明の一態様に係る拡大観察装置は、観察対象物を載置するためのステージ部と、前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を変化させる移動機構と、前記移動機構により変化される前記相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する表示制御部と、前記移動機構により変化される前記相対関係に関する情報を特定する相対関係特定部と、前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて合成画像を生成する画像処理部と、前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けて保存するストレージ部と、前記ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された条件データの一部又は全部を選択可能な条件データ選択部と、前記ステージ部上に載置された観察対象物に対して、前記条件データ選択部により選択された条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイ実行部とを備える。上記構成により、過去に撮像した観察対象物の合成画像の条件を部分的に選択して、新たな観察対象物の合成画像の条件を設定することが可能となり、面倒な条件設定を容易に行える利点が得られる。
さらにまた本発明の他の態様に係る拡大画像観察方法は、ステージ部に載置された観察対象物を、対物レンズ部を介してカメラ部で撮像してディスプレイ部に表示させ、前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を移動機構で変化させて観察する拡大画像観察方法であって、前記移動機構により変化される前記ステージ部と前記対物レンズ部との相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する工程と、前記移動機構により変化される前記相対関係に関する情報を特定する工程と、前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて画像処理部で合成画像を生成する工程と、前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けてストレージ部に保存する工程と、ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された条件データの一部又は全部を選択させる工程と、前記ステージ部上に載置された観察対象物に対して、前記選択された条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイを実行させる工程とを含む。これにより、過去に撮像した観察対象物の合成画像の条件を部分的に選択して、新たな観察対象物の合成画像の条件を設定することが可能となり、面倒な条件設定を容易に行える利点が得られる。
さらにまた本発明の他の態様に係る拡大画像観察プログラムは、観察対象物を載置するためのステージ部と、前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を変化させる移動機構と、前記移動機構により変化される前記相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させるディスプレイ部とを備える拡大観察装置を操作する拡大画像観察プログラムであって、前記移動機構により変化される前記ステージ部と前記対物レンズ部との相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する機能と、前記移動機構により変化される前記相対関係に関する情報を特定する機能と、前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて画像処理部で合成画像を生成する機能と、前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けてストレージ部に保存する機能と、ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された条件データの一部又は全部を選択させる機能と、前記ステージ部上に載置された観察対象物に対して、前記選択された条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイを実行させる機能とをコンピュータに実現させる。上記構成により、過去に撮像した観察対象物の合成画像の条件を部分的に選択して、新たな観察対象物の合成画像の条件を設定することが可能となり、面倒な条件設定を容易に行える利点が得られる。
さらにまた、本発明の他の態様に係るコンピュータで読み取り可能な記録媒体又は記録した機器は、上記プログラムを格納したものである。記録媒体には、CD-ROM、CD-R、CD-RWやフレキシブルディスク、磁気テープ、MO、DVD-ROM、DVD-RAM、DVD±R、DVD±RW、HD DVD(AOD)、Blu-ray(商品名)、UHD BD(商品名)、USBメモリ、SSDメモリ等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録媒体にはプログラムを記録可能な機器、例えば上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。また本明細書においてコンピュータで読み取り可能な記録媒体は、非一過性で有形の媒体、又は一過性の伝搬信号を含む。
実施形態1に係る拡大観察装置の外観斜視図である。 図1の拡大観察装置のブロック図である。 照明部の構成を示す概略図である。 リング照明の模式図である。 図5Aはクイックリプレイ機能の元となる合成画像の生成時におけるZレンジ、図5Bはクイックリプレイ機能実行時におけるZレンジを、それぞれ示す模式図である。 押し当て治具で観察対象物をステージ部上の定位置に配置する様子を示す平面図である。 図7Aはある観察対象物に対する計測結果、図7Bは図7Aの計測を再現したい画像を示す模式図である。 図8Aは計測対象の画像、図8Bは計測ツール配置の再現に失敗した状態を示す模式図である。 図9Aは図8Aに対し図7Aの計測ツールの位置を再現した状態、図9Bは計測ツールの位置を編集した状態を、それぞれ示す模式図である。 図10Aはクイックリプレイ用ファイル選択画面を示す模式図、図10Bは検索条件の例として、機能と照明の種別を示す一覧表である。 クイックリプレイ管理画面を示す模式図である。 位置指定画面を示す模式図である。 警告画面を示す模式図である。 リプレイ進行画面を示す模式図である。 実施形態2に係る拡大観察装置を示す正面図である。 実施形態3に係る拡大観察装置を示す側面図である。 図16の参照カメラ部で撮像した参照カメラ画像を示す模式図である。 拡大観察画像のみの模式図である。 図18に参照カメラ画像を付加した例を示す模式図である。 他の参照カメラ画像を付加した拡大観察画像を示す模式図である。 条件データの一例を示す模式図である。 参照カメラ撮影条件設定画面を示す模式図である。 保存済みの合成画像を検索する手順を示すフローチャートである。 参照カメラ画像を含めたファイル選択画面を示す模式図である。 参照カメラ画像を含めたクイックリプレイ管理画面を示す模式図である。 参照カメラ画像を使ったマニュアル調整誘導画面を示す模式図である。 図27Aは条件データ記憶時の状態、図27Bは図27Aで記憶された高さを再現する場合、図27Cは現在の高さを基準に図27Aで記憶された条件データを変更する様子を、それぞれ示す模式図である。 図28Aは条件データ記憶時の状態、図28Bは図28Aで記憶されたXY位置を再現する場合、図28Cは現在のXY位置を基準に図28Aで記憶された条件データを変更する様子を、それぞれ示す模式図である。 クイックリプレイ機能を実行する手順を示すフローチャートである。 図29の初期位置を選択する手順を示すフローチャートである。 画像処理部で画像合成の生成等の画像処理や計測を行う手順を示すフローチャートである。
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものではない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
本発明の実施例において使用される拡大観察装置とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS-232xやRS-422、USB等のシリアル接続、パラレル接続、あるいは10BASE-T、100BASE-TX、1000BASE-T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置及び拡大画像観察方法とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた拡大観察システムも含む意味で使用する。
また、本明細書において拡大観察装置は、拡大観察を行うシステムそのもの、ならびに撮像に関連する入出力、表示、演算、通信その他の処理をハードウェア的に行う装置や方法に限定するものではない。ソフトウェア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウェアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで撮像そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の拡大観察装置に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末その他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウェア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
[実施形態1]
以下、図1~図2を用いて、本発明の実施形態1に係る拡大観察装置100を説明する。拡大観察装置100は、図1に示すように撮像系1と制御系2に大別される。撮像系1は、観察対象物WKである試料やサンプル、ワークその他の被写体を照明するための照明部60と、照明部60により照明された観察対象物WKを撮像するヘッド部4を備える。ヘッド部4は、図2に示すように撮像素子12を含むカメラ部10と、カメラ部10の先端に着脱自在に装着される顕微鏡レンズ部20とを備える。顕微鏡レンズ部20は複数枚の光学レンズで構成された撮像光学系(レンズ光学系)を構成する。ここでは、顕微鏡レンズ部20は対物レンズ部25を含んでいる。またヘッド部4は、照明光の反射光又は透過光を受光する撮像手段として機能する。
(カメラ部10)
カメラ部10は、図2に示すように、照明部60により照明された観察対象物WKから、撮像光学系11を介して入射する反射光を電気的に読み取る撮像素子12を備える。撮像素子12は、この例ではCMOSを利用しているが、CCD等、他の受光素子も利用できる。対物レンズ部25は、ステージ部30上の観察対象物に向けて配置されている。またカメラ部10は、対物レンズ部25を介して結像された観察対象物の像を撮像して、この像を示す画像データを生成する。
また撮像系1は、観察対象物WKを載置するステージ部30と、このステージ部30とヘッド部4との光軸方向における相対距離を変化させ焦点を調整する第一焦点調整部としてZ上ステージ及びこのZ上ステージを駆動するための上Z昇降器16とを備える。このステージ部30上に載置された観察対象物WKに対して、撮像光学系11を介して入射され、観察対象物WKで反射された反射光又は観察対象物WKの底面側から照射された透過光を、カメラ部10の撮像素子12で電気的に読み取る。
さらに制御系2は、カメラ部10で撮像された拡大画像を表示するディスプレイ部70を有する本体部50を備える。カメラ部10は、ケーブル部3を介して本体部50と接続される。ディスプレイ部70は、カメラ部10が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させる。なお図1の例では、ディスプレイ部70を本体部50と一体に設けているが、ディスプレイ部を本体部と別部材とすることもできる。例えば本体部50は、ディスプレイ部70に表示させる表示内容を生成する表示制御部52に加えて、本体部50にディスプレイ部70を接続するディスプレイ接続インターフェースを備えることができる。
また本体部50は、プロセッサ部80を備えている。プロセッサ部80は、図2のブロック図に示すように、複数の機能を実現する(詳細は後述)。本体部50は、汎用のコンピュータに専用のプログラムをインストールしたものや、専用に設計された機器が利用できる。この例では、汎用のコンピュータに拡大観察装置を操作する拡大画像観察プログラムをインストールしたものを本体部として利用している。この本体部50は、プロセッサ部80と、表示制御部52と、ストレージ部53と、インターフェース54と、操作部55と、メモリ部56を備える。
またケーブル部3は、カメラ部10の撮像素子12で得られた画像情報を保体部50側に伝達するための電気的ケーブルである。また電気的ケーブルに加えて、照明光を本体部50からヘッド部4側に伝達するための光学的ケーブルを含めてもよい。この場合ケーブル部3は、電気的ケーブルと光学的ケーブルと統合することもできるし、これらを個別に設けることもできる。
(ディスプレイ部70)
ディスプレイ部70は液晶ディスプレイや有機EL、CRT等のモニタが利用できる。また本体部50は、ユーザが各種操作を行うための操作部55を接続している。操作部55はコンソールやマウス等の入力デバイスである。なおこの例においてもディスプレイ部70や操作部55は、本体部50と一体的に組み込むことも、外付けの部材とすることもできる。さらにディスプレイ部70をタッチパネルで構成すれば、ディスプレイ部70と操作部55を一体に構成することもできる。
操作部55は本体部50又はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部55としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部55は、拡大観察用操作プログラムの操作の他、拡大観察装置自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。図1の例では、操作部55はマウスとキーボード、ジョイスティック55bで構成される。
(照明部60)
照明部60は、撮像素子12に結像される観察対象物WKを照明する照明光を生成する。照明部60の概略構成を図3に示す。照明部60は、照明制御部66を備えている。照明制御部66は、設定された照明条件に従って照明光を制御する。照明条件は、照明部60から照射される照明光の明るさを調整する。例えば、照明部60の照射時間や照射強度を調整することで、照明光の明るさを調整できる。照明部60は光源としてLEDを含んでもよい。照明制御部66により光源の発光を制御してもよく、シャッターのような遮光部材により照射光の明るさを制御してもよい。
照明部60の照明方式としては、落射照明や透過照明等が適宜利用できる。落射照明とは、観察対象物の上方から観察対象物に照明光を落とす照明方法であり、リング照明や同軸照明等が含まれる。透過照明は、観察対象物に対し下方から照明光を照射する照明方法である。図3の例では、照明部60は、同軸落射照明部62と、リング照明部63を備える。同軸落射照明部62は、ビームスプリッタ61を介して対物レンズ部25の光軸AXと平行となるように折曲されている。なお照明部60は、ヘッド部4に組み込み式としたり、ヘッド部4と脱着可能な別体とする構成のいずれも採用できる。また照明部の光源は、同軸落射照明部62や、リング照明部63にそれぞれLEDやLD等を設ける他、共通の照明光源を本体部50に内蔵して、光学的ケーブルを介して照明光がヘッド部の照明部に伝達されるようにしてもよい。
同軸照明は、偏射照明を備えることもできる。このような偏射照明機能を備えた同軸照明とリング照明の一例を、図4の模式図に示す。この図に示す照明部60は、内輪側に配置された円環状の同軸落射照明部62と、外輪側に配置された同じく円環状のリング照明部63を備える。同軸落射照明部62、リング照明部63とも、円周上に沿って部分的に分割されており、分割されたブロック毎に点灯を切り替えることで、照明方向を変えた偏射照明が可能となる。
このように照明部60は、観察対象物に向けて照射方向を切り替え可能としている。また照明部60は、照明方向を順次切り替えて照射する第一照明パターンと、選択された照射方向に照射する第二照明パターンとに照射可能としている。このような照明パターンの切り替えは、照明制御部66で行われる。
(照明制御部66)
照明制御部66は、視野移動軌跡に沿って観察視野を移動させる際には、照明部60を第一照明パターンで照射させる。これにより、観察視野の移動中に照明方向を自動で変化させることができ、観察対象物の表面状態を異なる照明で観察することが可能となり、傷や欠け等を見つけ易くできる。また照明制御部66は、移動機構5による観察視野の移動を停止させた際には、バッファメモリ57に保持された照明方向の異なる複数の画像データを解析して、傷が最も鮮明となる照明方向の画像を選択し、照明部60をこの照明方向に固定した第二照明パターンで照射させる。これにより、観察視野の移動を停止させると、最も傷の見やすい照明方向の画像データが表示されるようになり、傷の探索に好適な観察が実現される。
図1に示す照明部60は、観察対象物WKに同軸落射光を照射するための同軸落射照明部62(図3参照)と、リング状の光源からリング状照明光を照射するためのリング照明部63を備えている。これらの照明は、ケーブルを介して本体部50と接続される。本体部50はケーブルを接続するコネクタを備える。またリング照明部63は、全周照明と側射照明を切り替えることができる。これを実現するため、リング照明部63として複数のLEDを環状に配置し、一部のLEDをON/OFFする構成や、照明光の一部をカットするターレット式のマスクを配置する構成等が利用できる。これら照明光の点灯制御や切り替えは、照明制御部66で行われる。
(移動機構5)
また拡大観察装置100は、ディスプレイ部70に表示される観察視野を移動させる移動機構5を備えている。移動機構5は、ステージ部30と対物レンズ部25との相対位置又は相対距離の少なくとも一方の相対関係を変化させる。以下では、移動機構5として、ステージ部30と対物レンズ部25との相対位置、すなわちXY平面内の観察視野を変化させる視野移動機構を用いる例を説明するが、上述の通りこの構成に限定されず、Z方向の移動を行う移動機構を採用してもよい。
図1の移動機構5は、ステージ部30の載置面上における対物レンズ部25の光軸AXの位置を異ならせるため、対物レンズ部25とステージ部30の相対関係、ここでは相対位置を変化させる。移動機構5で対物レンズ部25とステージ部30の相対関係を移動させると、ディスプレイ部70には、移動後の観察視野に更新された像を表示させることができる。図1の例では移動機構5として、ステージ部30を移動させるXYステージを採用している。ただ、本発明はこれに代えて、あるいはこれに加えて、対物レンズ部側を移動させる移動機構を採用してもよい。移動機構は、光軸側から見た対物レンズ部とステージ部の相対関係、すなわちXY平面内の観察視野を移動させることができれば足りる。なお移動機構5は、XY平面内の観察視野に加えて、Z方向の移動を包含してもよいことは上述の通りである。
XYステージは、ステージ部30の載置面をX軸方向およびY軸方向に移動可能な電動ステージである。また移動機構5は、ステージ部30を回転可能なθステージを備えることもできる。
さらにステージ部30は、移動機構5によるXY平面内でのステージ部30の移動に加えて、下ステージ昇降器35による高さ方向、すなわちZ方向への移動も可能としている。
ここで下ステージ昇降器35の動作について説明する。本体部50は、モータ制御回路36に対してステッピングモータ37の制御に関する制御データを入力することによって、ステージ部30と、撮像光学系11および撮像素子12を有するヘッド部4との光軸方向における相対距離、ここではz方向における高さを変化させる。具体的には、本体部50は、下ステージ昇降器35の制御に必要な制御データをモータ制御回路36に入力することによってステッピングモータ37の回転を制御し、ステージ部30の高さz(z方向の位置)を昇降させる。ステッピングモータ37は、回転に応じた回転信号を生成する。本体部50は、モータ制御回路36を介して入力される回転信号に基づいて、ステージ部30と撮像光学系11の光軸方向における相対距離に関する情報としてのステージ部30の高さzを記憶する。このステージ部30は、観察対象物WKに対して観察位置の位置決めを行う観察位置決め手段として機能する。
さらに本実施形態においては、ステージ部30の高さを変化させることによってステージ部30と撮像光学系11の光軸方向における相対距離を変化させるのみならず、撮像光学系の高さ、すなわちヘッド部4の高さも変化可能としている。ヘッド部4は本体部50とケーブル部3により接続される。これにより、ヘッド部4で取得したデータはケーブル部3を介して本体部50に送出され、本体部50側で必要な処理を行うことができる。なおステージ部は顕微鏡本体に設ける他、本体と別部材としたヘッド部に設けたり、あるいはステージを省略した撮像部をヘッド部に設けることもできる。ステージを省略した撮像部は、取り付けスタンドに装着したり、ユーザが手持ち可能とすることもできる。
撮像素子12は、x方向およびy方向に2次元状に配置された画素毎に受光量を電気的に読み取ることができる。撮像素子12上に結像された観察対象物WKの像は、撮像素子12の各画素において受光量に応じて電気信号に変換され、撮像素子制御回路13においてさらにデジタルデータに変換される。本体部50は、撮像素子制御回路13において変換されたデジタルデータを受光データDとして、光軸方向(図2中のz方向)とほぼ垂直な面内(図2中のx、y方向)における観察対象物WKの2次元位置情報としての画素の配置情報(x、y)と共にストレージ部53に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して90°をなす面である必要はなく、その撮像光学系および撮像素子12における解像度において観察対象物WKの形状を認識できる程度の傾きの範囲内にある観察面であればよい。
また、以上の説明ではステージ部30の一例として、観察対象物WKがステージ部30に載置される例を示したが、例えばステージ部の代わりにアームを取り付け、その先端に観察対象物WKを固定する構成とすることもできる。さらにヘッド部4は、カメラ取り付け部43に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。
(移動方向指示部55a)
制御系2は、操作部55を設けている。操作部55は、本体部50に接続された入力デバイスである。操作部55は、ディスプレイ部70における観察視野の移動方向を示すユーザ入力を受け付ける移動方向指示部55aとして機能する。この操作部55から入力された方向に従い、移動機構5の移動方向が指示される。この操作部55には、ジョイスティックやタッチパッド、マウス、キーボード(矢印キーあるいは特定のキー)などが利用できる。特に操作部55としてジョイスティック55bを利用することで、ユーザは、ジョイスティック55bを倒す方向によって観察視野の移動方向を感覚的に指示し易くなる。またジョイスティック55bを垂直姿勢から傾斜させる角度によって移動速度を指定することもできる。
さらにまたステージ部30は、下ステージ昇降器35による高さ方向、すなわちZ方向への移動に加えて、平面内での移動も可能としている。具体的には、X軸方向およびY軸方向に移動可能なXYステージを備える。また、ステージ部30を回転させる回転可能なステージ(θステージ)を備えることもできる。
なお、この例では上Z昇降器16、及び下ステージ昇降器35を共に電動駆動とした例を説明した。ただ本発明では、対物レンズ部25とステージ部30のそれぞれの高さ情報が取得できておれば足り、上Z昇降器及び下ステージ昇降器が共に電動駆動であることは必須でない。例えば上Z昇降器と下ステージ昇降器のいずれか一方を手動で駆動させるように構成してもよい。
本体部50は、図2のブロック図に示すように、プロセッサ部80と、表示制御部52と、ストレージ部53と、インターフェース54と、操作部55と、メモリ部56を備える。この拡大観察装置100は、撮像光学系11を介して入射するステージ部30に固定された観察対象物WKからの反射光又は透過光を電気的に読み取る撮像素子12を用いて観察像を撮像し、ディスプレイ部70に表示させる。
ストレージ部53は、表示制御部52によりディスプレイ部70に表示される画像データを静止画像や動画像として保存する等、記憶部として機能する。またストレージ部53は、異なる観察対象物に対して、それぞれカメラ部10で撮像された画像データや画像処理部84により生成された合成画像の画像データと、この画像データの撮像時の条件に関する情報やこの画像に対して適用した計測に関する情報を一以上含む条件データとを関連付けて保存する。
なお、ストレージ部53が保存する画像データは、合成画像に限られず、合成画像以外の画像データに、この画像データに対する計測の条件に関する情報を一以上含む条件データと関連付けて保存してもよい。この場合はリプレイ実行部87が、ステージ部30上に載置された観察対象物に対して、条件データに基づいてカメラ部10で生成された画像データに対して計測を実行する。またストレージ部53は、カメラ部10で生成された画像データと、この画像データの撮像時の条件に関する情報を一以上含む条件データとを関連付けて保存してもよい。さらにストレージ部53は、画像処理部84により生成された合成画像の画像データと、この合成画像に対する計測の条件に関する情報を一以上含む条件データとを関連付けて保存してもよい。
あるいはリプレイ実行部87が、ステージ部30上に載置された観察対象物に対して、位置合わせ選択部86cにより選択された位置合わせの実行可否に基づいて、移動機構5及びカメラ部10を制御して、カメラ部10で生成された画像データに対して計測を行ってもよい。この場合は、条件データ選択部86が、ストレージ部53に保存された何れかの画像データと関連付けて保存された、計測を実行する前に、位置合わせを行うか否かを選択可能な位置合わせ選択部86cを含む。
インターフェース54は、本体部50がヘッド部4や下ステージ昇降器35等とデータを通信するため接続部である。メモリ部56は、RAMやROMなどで構成される。このメモリ部56は、移動機構5の移動中にカメラ部10で撮像された、照明方向の異なる画像データを逐次保持するバッファメモリ57を含んでいる。操作部55は、カメラ部10で画像を撮像する際の条件を設定するための撮像条件や、その他の必要な各種の設定や操作を行うための部材でもある。
(表示制御部52)
表示制御部52は、カメラ部10が生成する画像データをディスプレイ部70に出力する。ディスプレイ部70は、表示制御部52から出力される観察視野の画像データを表示させる。この表示制御部52は、GPUなどで構成できる。図2の例では、表示制御部52をプロセッサ部と別部材で構成した例を説明している。このような表示制御部52は、例えばGPUで構成される。ただ本発明はこの構成に限られず、表示制御部52をプロセッサ部に組み込んでもよい。例えばプロセッサを構成するCPUやMPUに、表示制御部52を統合してもよい。
(プロセッサ部80)
このプロセッサ部80は、画像処理部84や、相対関係特定部85、条件データ選択部86、リプレイ実行部87、合成画像検索部88等の機能を実現する。相対関係特定部85は、移動機構により変化される相対関係に関する情報を特定する。画像処理部84は、移動機構により相対関係を変化させて、複数の異なる相対関係においてカメラ部により撮像された像を示す複数の画像データに基づいて合成画像を生成する。条件データ選択部86は、ストレージ部53に保存された何れかの合成画像の画像データと関連付けて保存された条件データの一部又は全部を選択する。リプレイ実行部87は、ステージ部30上に載置された観察対象物に対して、条件データ選択部86により選択された条件データに基づいて、移動機構及びカメラ部を制御して、画像処理部84で合成画像を生成させる。この拡大観察装置100は、過去に撮像した観察対象物の合成画像の条件を部分的に選択して、新たな観察対象物の合成画像の条件を設定することが可能となり、面倒な条件設定を容易に行える利点が得られる。
また画像処理部84は、複数枚の画像から画像を合成する機能(合成画像モード)を実現する。例えば焦点深度の浅い画像に対して、焦点位置を変えながら撮影した複数枚の画像のうち、焦点情報から合焦部位のみを合成して焦点深度の深い画像(深度合成画像)を得ることができる。また、いわゆる超解像技術により解像を高めた画像やダイナミックレンジを広げた画像を取得することもできる。このように画像処理部84で生成される合成画像には、深度合成画像、3D合成画像、画素ずらし画像、超解像画像、HDR画像等が挙げられる。また、画像処理部84で生成される合成画像には、異なる隣接した位置で撮像された画像データ同士を連結して生成される2D連結画像や、異なる隣接した位置で撮像された高さ画像データ同士を連結して生成される3D連結画像等が含まれてもよい。さらに画像処理部84に、観察対象物に対して計測を行う機能を持たせてもよい。例えばいくつかの計測を実行するボタンを並べた計測ツールを画像上に表示させて、表示された画像に対してボタンを操作して所望の計測を行うことができる。
条件データ選択部86は、初期位置選択部86bを含むことができる。初期位置選択部86bは、ストレージ部53に保存された何れかの合成画像等の画像データと関連付けて保存された条件データの内、相対関係に関する情報に基づく保存時初期位置と、ディスプレイ部に表示中の相対関係に基づく現在初期位置のいずれかを、実行初期位置として選択させるための部材である。リプレイ実行部87は、ステージ部30上に載置された観察対象物に対して、初期位置選択部86bにより選択された実行初期位置と、ストレージ部53により合成画像等の画像データに関連付けて保存された相対関係に関する情報とに基づいて、移動機構で観察視野を移動させて、画像処理部に合成画像等の画像データを生成させる。これにより、過去に撮像した観察対象物の合成画像等の画像データを撮像した保存時初期位置か、現在ディスプレイ部で表示されている現在初期位置の何れかを選択して、新たな観察対象物の合成画像等の画像データを生成することが可能となり、面倒な条件設定を容易に行える利点が得られる。なお、保存時初期位置は、ストレージ部53に初期位置そのものが画像データと関連付けて記憶されていてもよいし、初期位置を選択するための基準位置が画像データと関連付けて記憶されていてもよい。
条件データ選択部86はさらに、位置合わせ選択部86cを含むことができる。位置合わせ選択部86cは、ストレージ部53に保存された何れかの合成画像等の画像データと関連付けて保存された、計測を実行する前に、位置合わせを行うか否かを選択するための部材である。また、ストレージ部53に保存された何れかの合成画像の画像データと関連付けて保存された、画像合成を実行する前に、位置合わせを行うか否かを選択するための部材であってもよい。リプレイ実行部87は、ステージ部30上に載置された異なる観察対象物に対して、位置合わせ選択部86cにより選択された位置合わせの実行可否に基づいて、移動機構及びカメラ部を制御して、画像処理部で計測や合成画像の生成を実行させる。これにより、過去に撮像した観察対象物の計測や画像合成を再現するにあたり、位置合わせを事前に行うか否かを選択することが可能となり、面倒な条件設定を容易に行える利点が得られる。
合成画像検索部88は、ストレージ部53に保存された複数の合成画像の中から、条件データ選択部86で何れかの合成画像を選択する際、所望の合成画像を検索する検索条件を受け付けて、該検索条件に合致する合成画像を抽出する。これにより、多数の合成画像の中からユーザがリプレイを行いたい合成画像を選択する作業を、条件を指定して検索可能とすることで容易に行える利点が得られる。
合成画像検索部88は、検索条件として、合成画像データのファイル名、合成画像データの保存場所 合成画像データを保存した日付、合成画像データが計測か分析かの種別、撮影に用いた対物レンズ部の種別又は倍率、照明状態の内、少なくともいずれかの指定を受け付け可能とすることができる。照明状態は、例えば落射照明か透過照明か、等の選択が挙げられる。
このプロセッサ部80は汎用のCPUやMPU、SoC、あるいは特定用途向けにカスタマイズされたASICやFPGA等のゲートアレイ等で構成できる。なおこの例では、一のCPUをプロセッサ部として、後述する複数の機能を実現する構成を示しているが、本発明はこの構成に限られず、複数のCPU等でプロセッサ部を構成してもよい。例えばいわゆるマルチコアのMPUでプロセッサ部を構成してもよい。この場合において、複数のコアで各機能を実現する他、コア毎に異なる機能を割り当てて実行してもよい。さらに、CPUとGPUの組み合わせでプロセッサ部を構成してもよい。この場合において、GPUは上述した表示制御部52の機能を果たす他、プロセッサ部に割り当てられた機能の一部又は全部を実行させるように構成してもよい。
(クイックリプレイ機能)
この拡大観察装置100は、事前に再現内容を編集可能な、設定や撮影、計測の再現制御を行うクイックリプレイ機能を備えている。従来のデジタルマイクロスコープでは、一定の手順をテンプレート化しておき、このテンプレートを繰り返すというテンプレート機能があった。テンプレート機能では、撮影や計測までの設定を予め記憶しておき、別の観察対象物に対して全く同じ設定が再現される。このテンプレート機能は、似たような観察対象物を複数解析する場合などに有効となる。この機能を実行するには、同じ観察対象物WKを、図6に示すようなステージ部30上に設けられた押し当て治具JG等を用いて毎回同じ位置に載置する必要がある。押し当て治具JGなどで規制された初期位置に観察対象物WKを置くことで、テンプレート作成時の座標にステージ部30を移動させて、テンプレート通りの撮影や計測が再現される。
しかしながら、このテンプレート機能では、観察対象物をほぼ同じ位置に毎回配置しなければならないという問題があった。すなわち、デジタルマイクロスコープのような汎用的なステージ部に対して、押し当て治具を、繰り返し観察したい観察対象物毎に別途用意する必要がある。また適切な押し当て治具を選択して、これをステージ部上の所定の位置に位置決めして配置する必要があり、手間となっていた。また、完全に同じ位置が再現できない場合や、ずれる場合も考えられる。このような場合に、テンプレート作成時の画像をディスプレイ部上にオーバーレイ表示させるなどして、位置ずれを極力なくすような工夫は取られるものの、観察対象物をほぼ同じ位置に毎回配置する手間はなくすことができない。さらに、ワークの高さが異なる場合などは撮影時の座標に向けてZステージも動作するため、座標を再現することで観察対象物と機器が衝突するおそれもあった。このため、テンプレートと同じ観察対象物であることを慎重に確認したり、同じ観察対象物でもテンプレート作成時から高さ方向に変化がないことにも注意した上で、テンプレート機能を実行する必要があった。
これに対して、本実施形態に係る拡大観察装置では、保存された画像データの撮影設定や計測方法を再現する際に、適用する設定を事前に編集できるようにしたクイックリプレイ機能を備えている。このような事前編集を可能とすることで、従来のような位置合わせなどの手間を省力化している。例えばZステージを高さ方向に移動させて、画像処理部84で合成画像を生成する場合に、撮影時の上下限位置で合成するか、あるいは撮影時と同じ上下限間距離で、現在位置を基準に開始するかを選択可能としている。このとき、上下限位置や上下限距離を撮影時と全く同じにしてしまうと、観察対象物の位置ずれや観察対象物の高さ方向の幅が大きくなると、正しく合成画像を生成できない恐れがある。よって、撮影時よりも上下限距離をやや大きくした上下限位置や上下限距離を適用するようにしてもよい。たとえば上下限距離を10%上乗せするようにしてもよい。
またクイックリプレイ機能を実行するため、すでに撮影した拡大観察画像に、クイックリプレイの対象となる観察条件や計測条件を予め保存しておく。例えば、特定の観察対象物を撮像した合成画像データに、撮像時の撮像条件を記録する。また、特定の観察対象物に対し計測を行った計測条件を、合成画像データに記録する。
(クイックリプレイによる撮影の再現)
ここで、現在位置を基準にする例について、図5A及び図5Bを参照して、対物レンズ部を現在位置から上方向に移動させ、撮影時と同じZ方向範囲を用いて合成画像を生成する例を説明する。図5Aは、クイックリプレイ機能の元となる合成画像の生成時における対物レンズ部すなわちヘッド部4のZ方向の移動範囲(Zレンジ)、図5Bはクイックリプレイ機能実行時におけるZレンジを、それぞれ示している。図5Bに示すように、クイックリプレイ実行時の観察対象物WK2は、保存された観察対象物WK1とは異なっている。この場合に、保存された観察対象物WK1と同じ高さ方向の移動範囲では、正しく撮影や計測を再現できない。そこで、Zステージの現在位置を基準として、上方向に、保存された画像データの撮影時と同じZ方向範囲で画像合成を画像処理部84に行わせる。これによりユーザは、撮影時と全く同じ高さであれば同じ座標で画像合成すればよいし、また撮影時と高さに変化がある場合は、ピント面を下限に合わせて現在位置から上方向を選択すればよい。ここで従来のテンプレート機能のように、仮に撮影時と同じ座標に自動的に移動させるようにすると、図5Bの場合は対物レンズ部が観察対象物WK2に衝突するリスクがある。これに対し本実施形態に係る拡大観察装置では、クイックリプレイ機能の実行前に開始位置を選択できるようにしたことで、意図しない衝突を回避できる。
また現在位置を基準としてZ方向範囲を再現するのに、現在位置を中心にZ方向範囲の1/2ずつ上下方向に移動させることもできる。または、規定量だけ上下いずれかの方向に移動させて、(Z方向範囲-規定量)だけもう一方へ移動するように構成することもできる。
XY座標についても同様に、クイックリプレイ機能の実行に先立ち、移動範囲を選択できる。すなわち撮影時と同じXY座標にXYステージを移動させた上で撮影するか、又は現在位置でそのまま撮影するかを選択できるようにしてもよい。(詳細は後述)
例えば図6に示すような押し当て治具JGを用意して毎回同じ位置に観察対象物WKを配置できるユーザであれば、撮影時と同じ座標にステージ部を移動すればよいし、観察視野に表示されている観察対象物を撮影したいだけであれば、現在位置で撮影すればよい。これによって意図せずXYステージが移動することで衝突するリスクを回避できるようになる。またXYステージやZステージの設定は、それぞれ組み合わせて使用できるようにしてもよいことはいうまでもない。
さらに、画像連結機能を実行する際にも、移動範囲を撮影前に編集可能としている。また画像連結に限らず、連続した視野で複数枚の撮影を行う用途においても同様に、撮影前に移動範囲を編集可能とできる。
さらに、押し当て治具等を用意して毎回同じ位置に観察対象物が配置されていることが担保できる場合には、撮影時には前回と全く同じ範囲を再現すればよい。一方、押し当て治具等がない場合には、現在の視野基準で移動範囲を再現する。例えば現在の視野に観察対象物の左上が表示されている場合には、右下方向に向けて撮影範囲を再現すればよい。また現在位置を基準に撮影範囲をどう再現するのかを選択可能としてもよい。また基準位置は、矩形状の左上とする他、右上や左下、右下など、他の隅部に設定してもよい。あるいは現在位置を撮影範囲の中心とすることもできる。さらに上述の例ではXY範囲を説明したが、焦点を合成しながら画像連結する用途にも適用できる。この場合のZ方向の合成範囲は、1枚撮影のときと同様、撮影時と同じ範囲を合成するか、現在位置を基準に合成範囲を決定するかが選択できるようにしてもよい。
(クイックリプレイ実行前の条件データ設定)
ここで、クイックリプレイ実行前に、条件データを編集する様子を、図27A~図27Cに基づいて説明する。ここでは、高さ方向に対物レンズ部25を含むヘッド部4側を上Z昇降器16で高さZ1~Z2に移動させて深度合成画像を生成するクイックリプレイ実行に先立ち、Z方向の設定を行う様子を示している。図27Aは、設定記憶時の対物レンズ部25と、ステージ部30上に載置された観察対象物WKの位置関係を示しており、Z2は上限の高さ、Z1は下限の高さ、Zrefは基準の位置、ここではステージ部30の上面の高さである参照高さを示している。図27Aの例では、条件データとしてZref=0;Z1=+10;Z2=+15が合成画像データに保存されている。
この図27Aで撮像した合成画像データに対して、クイックリプレイを実行する際には、条件データとして記憶された高さをそのまま再現するのか、あるいは現在位置を基準にするのかを、条件データ選択部86でユーザに選択させる。記憶された高さをそのまま再現することを選択した場合は、図27Bのようになり、一方、現在位置を基準に撮像することを選択した場合は、図27Cのようになる。このように、条件データ選択部86でいずれを選択したかに応じて、基準の位置が変化する。条件データ選択部86は、選択に応じて基準の位置を切り替える変換アルゴリズムを有している。また、このような基準位置の調整や変換アルゴリズムの選定は、条件データ選択部86に限らず、リプレイ実行部87等、他の部材で行わせてもよい。
例えば記憶された高さをそのまま再現することを選択した場合は、図27Bに示すように、設定時の座標で撮像する。すなわち、条件データの通り、Zref=0;下限:Z1;上限:Z2として、Z1~Z2の範囲を撮像する。すなわち、対物レンズ部25を現在位置(例えば基準位置)からZ1の高さに移動させ、Z2まで移動させながら複数枚の画像を撮像して深度合成画像を画像処理部84で生成する。
一方、現在位置を基準に撮像することを選択した場合は、図27Cに示すように、条件データに対して座標位置を調整する。ここでは、現在位置をZ3とすると、Z3を基準として、条件データのZref、下限、上限の値をそれぞれ補正する。ここでは、Zref=Z3-10;下限:Z3;上限:Z3+5となるように書き換える。これにより、例えば図27Cに示すように、観察対象物WKの表面形状が図27Aと同じで、中間部分の厚みが異なるような場合でも、過去に撮影した画像のデータを有効活用して、簡便に撮影や計測などの処理を再現できる。
以上の例では、クイックリプレイ実行前にZ方向の設定を行う例を説明した。同様に本実施形態に係る拡大観察装置においては、クイックリプレイ実行前にXY方向の位置の選択や編集を行うこともできる。このような例を図28A~図28Cに基づいて説明する。これらの図において、図28Aは条件データ記憶時の状態、図28Bは図28Aで記憶されたXY位置を再現する場合、図28Cは現在のXY位置を基準に図28Aで記憶された条件データを変更する様子を、それぞれ示している。ここでは、対物レンズ部25側をXYステージでXY方向に移動させて、画像処理部84で画像連結を実行するクイックリプレイ実行に先立ち、XY方向の位置の設定を行う例を示している。図28Aは、図27Aと同様、設定記憶時の対物レンズ部25と、ステージ部30上に載置された観察対象物WKの位置関係を示しており、X1は右端の位置(この例では説明のためX座標であるが、XY座標でもよいことはいうまでもない。)、X2は左端の位置、Xrefは基準の位置(例えばX=0、あるいはXY平面の原点(0,0)の位置)を示している。図28Aの例では、条件データとしてXref=0;X1=+10;X2=-15が合成画像データに保存されている。この図28Aで撮像した合成画像データに対して、クイックリプレイを実行する際、条件データとして記憶された位置をそのまま再現するのか、あるいは現在位置を基準にするのかをユーザに選択させる。記憶された高さをそのまま再現する場合は、図28Bに、設定時の座標で撮像する。すなわち、条件データの通り、Xref=0;右端:X1;左端:X2として、X1~X2の範囲を移動して撮像する。すなわち、対物レンズ部25を現在位置(例えば原点の基準位置)から一旦X1に水平移動させ、X2まで移動させながら複数枚の画像を撮像した上で、得られた画像を連結して連結画像を画像処理部84で生成する。
一方、現在位置を基準に撮像することを選択した場合は、図28Cに示すように、条件データに対して座標位置を調整する。ここでは、現在位置をX3とすると、条件データに対し、Xref=X3+15;右端:X3;左端:X3+25となるように変換する。これにより、例えば図28Cに示すように、観察対象物WKの厚みが図28Aと同じで、表面形状が異なるような場合でも、過去に撮影した画像のデータを有効活用して、簡便に撮影や計測などの処理を再現できる。
もちろん、Z方向の設定とXY方向の設定を合わせて行うように構成してもよいことは云うまでもない。
(クイックリプレイによる計測の再現)
以上はクイックリプレイ機能により、撮影動作を再現する方法を説明したが、クイックリプレイ機能は画像を撮影する用途に限られず、計測工程の再現にも適用できる。計測を再現する場合は、2つの方法が考えられる。例えば図7Aの計測結果を図7Bの画像に再現させることを考える。第一の方法は、画像同士をパターンマッチングした上で、再現先の画像上で計測を行う計測ツールを位置合わせするものである。この方法では、再現先の見た目は維持されるものの、画面に対して水平/垂直に配置したツールを再現した際、再現後のツールを移動・編集する際の制御が複雑になる。例えば計測ツールを移動させる必要が生じる。図7Bの画像では、図7Aに対する回転角度に合わせて垂直な方向に制御する必要がある。
第二の方法は、画像同士をパターンマッチングする際、再現する元の画像に対して位置合わせする方法である。この方法では、再現後の計測ツールの移動や編集が元の向きと同じように維持されるため制御しやすい。その一方で、画像上に無効な領域が生じて、黒いマスク状に表示されるなど、見栄えが悪くなってしまう。なお、水平/垂直の制御は元の画像と同じように行える。
それぞれの手法において一長一短はあるが、どちらの方法を使うにせよパターンマッチングに失敗することがある。例えば図8Aに示す画像に対して、図7Aの計測を行った計測ツールを図8Aの画像に再現することを考える。パターンマッチングに失敗すると、どちらの手法においても図8Bに示すように計測ツール配置の再現に失敗する。こういったケースにおいては再現後に計測ツールをユーザが自ら編集したくなるが、配置されなかった計測ツールが消失していたり、無効領域が発生してしまい対象物が表示されなくなっていたりする。そもそも再現実行する前に、観察対象物の形状が結構変わってしまっているので、パターンマッチングに失敗すると予測できるものについては、パターンマッチングをOFFして計測ツールの配置だけを行いたいことがある。計測ツールの数が多い場合などは、計測ツールを配置する手間だけでもかなりの工数を要するため、配置さえしてあればあとは移動・編集だけになるため手間を削減できる。この場合は、図9A、図9Bに示すように、計測ツールの位置だけ再現し、再現後に編集する。なお図9Aは図8Aに対し図7Aの計測ツールの位置を再現した状態、図9Bは計測ツールの位置を編集した状態を、それぞれ示している。
(ファイル選択画面150)
以下、クイックリプレイ機能を実行する手順を説明する。まず、再現用のファイルの指定を受け付ける。再現用のファイルの指定は、ファイル管理ウィンドウを介してストレージ部53に保存されたファイル一覧を表示して、ファイル一覧から対象のファイルをユーザに指定さてもよく、再現用の専用ウィンドウを介して指定させてもよい。たとえば、ユーザはクイックリプレイ実行ボタンをクリックする等して、再現用の専用ウィンドウを起動させる。この結果、図10Aに示すファイル選択画面150が表示され、再現用のファイルを指定することが可能になる。ファイル選択画面150は、合成画像検索部88の一態様である。図10Aの例では、ファイル選択画面150は、画面左側の画像表示領域111と、画面右側の操作領域112を備える。画像表示領域111は、画像を表示させる領域である。操作領域112は、各種の操作を行う領域であり、この例では検索条件指定欄151、検索結果表示欄152を備えている。このファイル選択画面150では、保存済みの合成画像等の画像データに対して、検索条件を設定して画像を検索する。再現用の専用ウィンドウを起動させた時点では、検索条件は設定されておらず、検索結果表示欄152には再現用のファイルの一覧が表示される。検索条件の指定を受け付けて、検索ボタンを押下されると、検索結果表示欄152には指定された検索条件に従う再現用のファイルの一覧が表示される。このようにして、検索条件の指定を受け付けることで絞込検索を行うことができる。要するに、検索条件のうち指定を受け付けた項目について絞込検索を行い、指定を受け付けなかった項目については絞り込みを行わない。
(画像検索)
保存済みの合成画像を検索する手順を、図23のフローチャートに基づいて説明する。まずステップS2301において、検索条件の受付有無を判定する。検索条件の受付がない場合は、検索処理を終了するか、ステップS2301を繰り返す。一方、検索条件を受け付けた場合はステップS2302に進み、検索条件に基づき画像を検索する。たとえば、受け付けた検索条件と、ストレージ部53に保存されたファイルとともに記憶される図21に示すようなパラメータとを対比して、検索条件が一致するパラメータとともに保存されたファイルを抽出する。そしてステップS2303において、検索された画像を一覧表示させる。
図10Aの検索条件指定欄151に示すように、検索条件には、画像データファイルのファイル名、画像データファイルの保存場所に加え、撮像時の条件に関する項目の指定が挙げられる。検索条件として設定可能な検索項目には、画像データファイルのファイル名、画像データファイルのファイルの保存場所、画像データが生成された日付、画像データを生成する際に使用した機能、画像データの撮像に用いたレンズ、画像データの撮像に使用した照明種別等が挙げられる。これら検索項目の指定方法として、例えばファイル名の場合はファイル名を、ファイル保存場所の場合は、フォルダパスを、日付の場合は、日付範囲を、ファイル検索欄153にてそれぞれ指定する。また検索条件として、画像データを生成する際に使用した機能や、画像データの撮像に使用した照明の種別を利用することもできる。画像データを生成する際に使用した機能の場合は、画像合成種別、計測種別、分析種別を候補群から選択する。たとえば、画像合成に関する機能として、深度合成、2D連結、3D連結、HDR、ハレーション除去等が選択されてもよい。計測に関する機能として、平面計測、自動面積計測、コンタミ解析、最大面積計測、ワンクリック自動計測等の2D計測や、点高さ計測、プロファイル計測、体積計測、線粗さ計測、表面粗さ計測等の3D計測が選択されてもよい。検索条件として指定する機能は、図10Aの機能検索欄155にて候補群から選択する。またレンズの場合は、対物レンズ部の種別や倍率を、レンズ検索欄156にて候補群から選択する。さらにまた照明の場合は、照明検索欄157にて候補群から選択する。
このような機能や照明の種別の候補として、例えば図10Bに示す項目を検索条件として利用できる。この図に示すように、利用した機能155’、落射照明157’、透過照明157”等の種別をそれぞれ選択することが可能である。この図に示すように、機能155’としては、平面計測、自動面積計測、コンタミ解析、最大面積計測、深度合成、2D連結、3D連結、HDR、ハレーション除去、3D(点高さ)、3D(プロファイル)、3D(体積)、3D(線粗さ)、3D(表面粗さ)等が挙げられる。また落射照明157’としては、同軸落射、同軸片射、リング照明、リング片射、ミックス等が挙げられる。さらに透過照明157”としては、ON、OFF等が挙げられる。
(クイックリプレイ管理画面160)
検索を実行すると、条件に合致する合成画像の候補が、検索結果表示欄152に一覧表示される。検索結果表示欄152で表示された合成画像の候補から、所望の合成画像、例えば合成画像158を選択すると、図11に示すクイックリプレイ管理画面160が表示される。クイックリプレイ管理画面160は、リプレイ処理表示欄161と、プレビュー表示欄162と、メッセージ表示欄163と、リプレイ開始ボタン164と、ステージ設定ボタン165を備えている。
リプレイ処理表示欄161は、クイックリプレイ機能を実行するにあたり、実行される処理の順序を示す。またリプレイ処理の進捗を示すため、たとえば実行中の処理をハイライト表示してもよい。図11の例では、撮影設定、深度合成&3D合成、3D・プロファイルが表示されており、選択されたファイルに基づいて実行されるリプレイ処理の順序を表示する。たとえば、選択されたファイルとともに図21に示すようなパラメータが記憶されている場合、記憶されたパラメータに応じた項目が表示される。図11に示すように、選択されたファイルが、3Dデータを取得して、取得した3Dデータのプロファイルに対し計測を行ったものであり、3Dデータを取得するためのZステージ移動上下限や、3Dデータのプロファイルを計測するための計測箇所・範囲、計測ツールに関するパラメータを用いてリプレイ処理を実行するものである場合、リプレイ処理表示欄161には、図21の表示名に従う「撮影設定」、「深度合成&3D合成」、「3D・プロファイル」の三段階の処理順序が表示される。選択されたファイルが、画像合成されていない画像データに対して平面計測等の2D計測を行ったものである場合、リプレイ処理表示欄161には、「撮影設定」、「2D計測」の2段階のリプレイ処理の順序が表示される。選択されたファイルが、画像合成された画像データで、計測に関する処理がされていない場合、リプレイ処理表示欄161には、「撮影設定」、「3D連結」等の2段階のリプレイ処理の順序が表示される。また撮影設定には、対物レンズの種別や拡大倍率、傾斜角度等を表示させることができる。対物レンズの種別や拡大倍率、傾斜角度等の項目の少なくとも一部について自動処理できないものについては、これらを表示することでユーザが手動でリプレイする際の誘導表示となる。プレビュー表示欄162では、選択されたファイルの画像データがプレビューされる。メッセージ表示欄163は、クイックリプレイ機能の実行に関する情報を表示する。例えば、設定済みの項目や警告などが表示される。リプレイ開始ボタン164は、設定終了後にこれを押下することで、クイックリプレイ機能を実行する。ステージ設定ボタン165は、条件データ選択部を起動させるためのボタンである。ステージ設定ボタン165をクリックすると、図12に示すように位置指定画面170が表示される。位置指定画面170は、初期位置選択部86bの一態様であり、撮影時の動作を再現実行前に設定するためのものである。
図21に示される各パラメータは自動で調整が可能なパラメータとユーザが手動で調整が必要なパラメータとに大別して記憶される。ユーザが手動で調整する必要があるパラメータは、例えば傾斜観察を行う場合の傾斜角度や、レンズ種別などが挙げられる。図11のクイックリプレイ管理画面160において、画面左上に設けられた調整情報表示爛166には、プレビュー表示爛162に表示された画像に保存されたこれらのパラメータが表示される。また画面下段に設けられた「計測ツール配置時に画像の位置を補正」チェックボックス167では、前述した計測ツール配置時に、パターンマッチングを行うか否かを選択することができる。「計測ツール配置時に画像の位置を補正」チェックボックス167を選択した場合、前述したパターンマッチングを行った後に計測ツールが配置される。「計測ツール配置時に画像の位置を補正」チェックボックス167が選択されなかった場合は、パターンマッチングを行わず、プレビュー表示爛162に表示される画像に保存された計測ツールの位置に計測ツールが配置される。
(位置指定画面170)
位置指定画面170は、ファイル選択画面150で選択された合成画像のデータファイルに保存された条件データの採否を選択するための部材である。ここではクイックリプレイを開始する初期位置として、ステージ部の移動を選択する。具体的には、XYステージとZステージの移動を設定する。ここではクイックリプレイ機能の対象として、一枚の画像を撮影する動作、観察視野の異なる複数枚の画像を撮影して連結する画像連結、同じ観察視野で高さ方向に異なる画像を複数枚撮影して合成する深度合成を挙げている。ユーザは、実行したい動作に応じて、XYステージとZステージの移動を、それぞれ指定する。例えばクイックリプレイしたい動作が1枚撮影の場合は、ステージを現在位置のままとして移動しないか、選択された合成画像の撮影時の座標に移動するかを、ラジオボタンで選択する。また画像連結の場合は、現在位置を始点にするか、撮影時と同じ範囲を連結するかを指定する。さらに深度合成の場合は、現在位置から上方向にZステージを移動させるか、撮影時の下限から上限に移動させるかを選択する。
本実施形態に係る拡大観察装置では、クイックリプレイ実行前に、選択された条件データに従い現在の観察対象物に対して移動機構を移動させた場合に、対物レンズ部とステージ部上の観察対象物の表面との相対関係を、相対関係特定部85で演算する。また相対関係特定部85は、条件データに従って移動させると不具合が生じる場合には、警告を発することができる。例えば図12の位置指定画面170において破線の枠で囲んだ設定について、XYステージが現在位置から大きく動いたり、Zステージが観察対象物方向に向かって移動したりする可能性があり、この場合に観察対象物と対物レンズ部とが接触する場合がある。このように、設定によりXYZステージが意図せず移動して観察対象物との接触が起きうる場合は、相対関係特定部85がプレビューする設定の表示を通常と異ならせることでユーザに気付き易くすることもできる。例えば図11のメッセージ表示欄163において、表示されるZステージの「撮影時の下限→上限間に移動」の文字色を変更して表示することで、ユーザに対して注意喚起を促すことができる。
またクイックリプレイ機能は、クイックリプレイ実行前に設定を変更するようにユーザに促すマニュアル調整誘導を備えることもできる。例えば図13に示す警告画面190を表示させて、選択した合成画像に保存された条件データの内、ユーザが手動で設定を変更する箇所について相対関係特定部85が警告を表示させる。この例では、「一部の設定が撮影時と一致していません。撮影時と合わせる場合は、以下の設定を手動で変更してください。」とのメッセージとともに、その理由として「※)倍率は撮影時と一致させる必要があります。」と表示させ、さらに現在の設定値と目標値とを表示させている。このように、不具合の生じない目標値を相対関係特定部85で演算して提示することで、ユーザは適切な設定に改めるように促される。このように相対関係特定部85でもって、選択された条件データとクイックリプレイしようとする観察対象物の撮影設定が合致しているかを判定し、一部の設定が過去の撮影時と一致していない場合は警告を行うことで、過去の撮影を再現すると共に、必要な微調整なども行われ、ユーザは容易に過去の資産を活用できるようになる。ユーザが傾斜角度を過去の撮影時と一致するように調整しなかった場合、リプレイ開始ボタン164を押下すると、現在の傾斜角度でクイックリプレイが実行される。一方で、ユーザが過去の撮影時と一致する倍率に調整せずに、リプレイ開始ボタン164を押下した場合、クイックリプレイが実行されないように構成されても良い。
図11のクイックリプレイ管理画面160において、リプレイ開始ボタン164を押下すると、計測時の位置合わせを実行するかを確認する確認メッセージが表示される。例えばダイヤログボックスで「位置合わせを行ってから、計測ツールを配置しますか?」と表示させて、「はい」か「いいえ」かを選択させる。計測時の位置合わせは、位置合わせ選択部86cで行われる。なお、位置合わせについてもXYZステージと同じようにウィンドウ上に設定項目が表示されていてもよい。
またリプレイ実行中は図14のようなリプレイ進行画面180が表示され、現在どのステップを実行しているかを把握できる。具体的には、図11のクイックリプレイ管理画面160において、リプレイ開始ボタン164を押下すると、クイックリプレイの進捗を示すリプレイ進行画面180が、通常の拡大画像観察プログラムのユーザインターフェース画面上に重畳表示される。現在進行中の工程は、色を変えるなどのハイライトで強調表示される。図14の例では、図11のリプレイ処理表示欄161と同様の手順表示欄181が設けられて、各工程、すなわち撮影設定、3D合成、3D・プロファイルが表示されるとともに、現在の工程、ここでは3D合成が強調表示されている。なお手順表示欄181では、選択された合成画像ファイルに記憶されているパラメータに応じて、表示段数が変化される。記憶されているパラメータは、図21に示すようなものが挙げられる。またリプレイ進行画面180の下部にはプログレスバー182が表示されており、現在の工程の進捗状況が示される。またさらに下部に設けられた中止ボタン183は、クイックリプレイを中止するためのボタンである。
[実施形態2]
また拡大観察装置は、傾斜観察機能を備えることもできる。このような例を実施形態2に係る拡大観察装置として、図15に示す。この図に示す拡大観察装置200は、撮像系1を示す正面図である。なお、図15に示す拡大観察装置において、上述した実施形態1で説明した部材と同じ部材については、同じ符号を付して詳細説明を適宜省略する。
撮像系1は、観察対象物を載置するステージ部30とヘッド部4を支持する支持台40を備えている。支持台40は、ステージ部30を水平面内あるいは上下移動可能な状態に保持するステージ固定機構42と、ステージ部30を保持した状態でヘッド部4を傾斜させるヘッド傾斜機構44を備えている。これらステージ固定機構42及びヘッド傾斜機構44は、ベース部41に固定されている。ベース部41は平板状として、安定的に支持台40を自立させる。
このヘッド傾斜機構44によってヘッド部4をステージ部30に対して傾斜させることで、観察対象物を斜め方向から観察した傾斜観察が可能となる。特にヘッド部4を垂直姿勢から、揺動軸45を回転軸として左右に揺動させることで、左右いずれの方向からも観察することが可能となり、異なる視点からの観察により観察の自由度を高めることが可能となる。またこのような傾斜観察においては、ヘッド部4を傾斜させても観察視野が変化しないユーセントリック観察が求められる。このため傾斜観察に際しては、予め観察対象物Sの観察面が、揺動軸45の中心と合致するようにステージ部30の高さを調整することが望ましい。
[実施形態3]
さらに拡大観察装置は、参照カメラ部18を備えることができる。参照カメラ部18は、ステージ部30を、カメラ部10とは異なる位置から観察対象物を撮像して、カメラ部10の画像データとは異なる姿勢で観察対象物が表示される参照画像データを撮像するものである。これによりステージ部30の載置面に載置された観察対象物と対物レンズ部との位置関係を把握でき、観察時にはリアルタイムで両者の位置関係を確認して、意図しない衝突を防止できる。また、対物レンズ部で拡大観察画像を撮像する際に、併せて参照カメラ部18で撮像した参照カメラ画像を残しておくことで、どのような観察対象物をどのような態様で撮影したのかを後日、視覚的に把握し易くできる。特にストレージ部53は、カメラ部10で撮像した画像データを保存する際に、参照カメラ部18で撮像した参照画像データと関連付けて保存することが好ましい。このような参照カメラ部18を備える拡大観察装置を、実施形態3として図16の側面図に示す。なお、この図に示す拡大観察装置300において、上述した実施形態1等で説明した部材と同じ部材については、同じ符号を付して詳細説明を適宜省略する。これらの図に示すように、拡大観察装置300は、撮像系1として、ステージ部30とヘッド部4を支持する支持台40を備えている。またヘッド部4は、参照カメラ部18を備えている。この参照カメラ部18は、ステージ部30を側面視で撮像するサイドカメラである。このサイドカメラは、参照カメラ画像としてサイドカメラ画像を撮像する。
(参照カメラ画像)
この参照カメラ部18は、観察対象物上面と対物レンズ部の先端を撮像可能に位置させている。参照カメラ部18で撮像した参照カメラ画像の例を、図17に示す。この図に示すように、参照カメラ画像SIは対物レンズ部の先端と、観察対象物やステージ部30の位置関係が一画面で把握できるように倍率や観察視野を設定している。また、対物レンズ部の仮想焦点位置を表示させてもよい。さらに、画像に対して図17において太線で示すようにエッジEDを抽出したエッジ画像を表示させてもよい。例えば画像処理部84は、参照カメラ部18で撮像した画像に対し、エッジ抽出により観察対象物の上端と対物レンズ部の先端を検出する。これによって観察対象物の撮影時や測定時に、衝突回避のための演算を行うことができる。また演算結果に基づき、衝突の虞がある場合は警告を発することもできる。警告の一態様として、図17に示すディスプレイ部の画面において、参照カメラ画像SIに「衝突に注意して下さい」等を警告メッセージを表示させる。警告メッセージは、白黒反転としたり、ハイライトや下線、表示色の変更などの強調処理を加えることで、ユーザに対して目立つ態様で衝突のリスクを告知できる。また、音声ガイダンスや警報などをスピーカから発してもよいし、またフラッシュを点滅させるなど警告用のランプを点灯させてもよい。またこれらを適宜併用してもよいことはいうまでもない。
さらに参照カメラ画像SIにおいて、対物レンズ部や観察対象物と、背景画像とを区別して見易くさせてもよい。例えば、参照カメラ部18の被写界深度を調整し、ステージ部の奥行範囲のみ鮮明に撮像できるように設定する。また、背景判定部を設けて、参照カメラ画像SI中で画像の動かない部分や明るさの変動等から、背景の領域を自動で判定して抽出するようにしてもよい。この際、照明光の明るさを変化させてもよい。あるいは背景影響低減部を設けて、背景部分をマスク処理してもよい。このような背景判定部や背景影響低減部は、別部材として設けてもよいし、画像処理部84にこれらの機能を担わせてもよい。
このようにして撮像された参照カメラ画像SIは、クイックリプレイ機能で保存される画像データと関連付けて保存することもできる。このような例を図18~図20に示す。これらの図において、図18は拡大観察画像IMのみの画像データ、図19は図18に参照カメラ画像SI2を付加した例、また図20はさらに別の参照カメラ画像SI3を付加した拡大観察画像IM3を、それぞれ示している。これらの図に示すように、参照カメラ画像と拡大観察画像とを対応付けて保存することで、どのような観察対象物を撮影したのかを容易に判別できる。すなわち、単に図18のような拡大観察画像IMのみでは、どのような観察対象物を撮影したのかを判別することは困難であるところ、図19のように参照カメラ画像SI2を付加することで、観察対象物を一目で判別できるようになる。
また、どのような態様で観察対象物を撮像したのかを判別することも可能となる。例えば図19で示す参照カメラ画像SI2は、傾斜観察した状態を示している。このように、参照カメラ画像に対物レンズ部を含めることで、対物レンズ部の角度や観察対象物との位置関係を一目で把握できる。また、異なる種類の対物レンズ部が交換可能に取りつかれる場合、どのレンズを使って撮像したかを一目で確認することができる。また図20で示す参照カメラ画像SI3は、対物レンズ部25の先端にアタッチメントATを付加した例を示している。このように、対物レンズ部に何らかの部材を付加したことの判別も、参照カメラ画像と関連付けることで容易に行える。なお図20に示すアタッチメントATは、ドーム形状の拡散照明部である。この拡散照明部は、対物レンズ部25の先端に着脱可能なアダプタであり、すりガラス状の光学フィルタを通して照明光を拡散させることで、観察対象物を均一に照明することができる。対物レンズ部に付加するアタッチメントは拡散照明部に限られず、他の部材、例えば追加の照明照射部材等も利用できる。このように、参照カメラ画像を付加することで、単に観察対象物の種別だけではなく、対物レンズ部の傾斜角やアタッチメントの有無等の撮像時の情報も視覚的に表示させることができる。
また、拡大観察画像に対して参照カメラ画像をはめ込んで一つの画像データとする例を示したがこれに限られない。拡大観察画像と参照カメラ画像とを関連付けて一のファイルとして保存してもよい。この場合、拡大観察画像と参照カメラ画像とを個別に表示できるので、たとえば、拡大観察画像と参照カメラ画像とを切り換え表示することができる。あるいは、それぞれ個別のファイルとして保存しつつ、拡大観察画像データに参照カメラ画像データのファイル名を保存したり、両者の対応関係を示すテーブルを用意する等、対応する拡大観察画像と参照カメラ画像との関係性を記録する種々の方法が利用できる。
このようにして参照カメラ画像と関連付けた拡大観察画像を表示させる際、専用の拡大観察画像ビューワで読み込むと、拡大観察画像が表示され、特定の操作により参照カメラ画像を表示させるように構成できる。例えば、一のファイル中に参照カメラ画像を埋め込んだ拡大観察画像ファイルを作成する。この画像データファイルを、通常の画像ビューワで読み込むと、拡大観察画像のみが表示される。一方で、専用の拡大観察画像ビューワで読み込むと、埋め込まれた参照カメラ画像が表示されるようになる。例えば、図18のように拡大観察画像を表示させた状態で、マウスカーソルを重ねると、図19のように隅部に参照カメラ画像が表示される。
また、参照カメラ画像を常時小さく表示させておき、この参照カメラ画像にカーソルを重ねると、参照カメラ画像が拡大されて表示されるように構成してもよい。さらにこの際、隅部に拡大観察画像を小さく表示させておき、この拡大観察画像にカーソルを重ねると、拡大観察画像が拡大されて表示され、隅部に参照カメラ画像が表示されるように構成してもよい。この場合は、マウスカーソルの指示によって、拡大して表示される画像と隅部で縮小して表示される画像とを入れ替えることが可能となる。なお、縮小表示される参照カメラ画像について、図19では左上の隅部に配置する例を示しているが、右下等、任意の位置に配置してもよい。また、参照カメラ画像を縮小表示させる態様に限られず、拡大観察画像と同じ画像サイズとしてもよい。例えば拡大観察画像にマウスカーソルを重ねると、画像表示領域の全面が参照カメラ画像に切り替わるように構成してもよい。この場合は、拡大観察画像の裏側に参照カメラ画像が隠れており、マウスカーソルを拡大観察画像に重ねることで、裏側の参照カメラ画像が表示されるようなイメージと捉えることもできる。あるいは、記憶された画像を半透明にして重畳表示させてもよい。あるいはまた、必ずしも拡大観察画像に重ねて表示させる態様に限られず、例えば参照カメラ画像を拡大観察画像の横や下に並べて表示させてもよい。
(条件データ)
上述の通り、拡大観察画像に、撮像時や計測時の条件を条件データとして保存しておく。これによりクイックリプレイ実行時には、選択した画像に保存された条件データを読み取って、設定された条件に従い、選択した画像で行われたのと同様の撮像や計測などの処理を自動で行うことが可能となる。このような条件データの一例を、図21に示す。この図に示すように、条件データには、撮影設定、XYZ合成処理設定、2D計測設定、3D計測設定等を含むことができる。具体的に撮影設定には、カメラ条件、レンズ種類、レンズ倍率、照明条件(落射照明、透過照明)、単発撮影の位置座標、傾斜角度、参照カメラ画像の有無、HDR、ハレーション除去などが含まれる。またXYZ合成処理には、深度合成&3D、2D連結、2D連結等が含まれる。ここで深度合成&3Dは、Zステージの移動上下限をパラメータとして記憶する。また2D連結は、撮影するXY座標の範囲や撮影時のz座標を記憶する。さらに3D連結は、撮影するXY座標の範囲や撮影時のZステージ移動上下限を記憶する。
一方、2D計測設定には、平面計測、自動面積計測、コンタミ解析、最大面積計測、ワンクリック自動計測等が含まれる。ここで、平面計測は、計測箇所や、計測ツール(角度、距離、径等)をパラメータとして記憶する。また自動面積計測は、抽出範囲、抽出パラメータ(結晶粒度、粒子色・明るさ等)等のパラメータを記憶する。さらにコンタミ解析は、抽出範囲、抽出パラメータ(粒子形状等)等のパラメータを記憶する。さらにまた最大面積計測は、計測領域、抽出パラメータ(対象物の明るさ等)等を記憶する。ワンクリック自動計測は、計測箇所、計測ツール(角度、距離、径等)等を記憶する。
3D計測設定には、点高さ、プロファイル、体積計測、線粗さ/表面粗さが含まれる。ここで点高さは、計測箇所をパラメータとして記憶する。またプロファイルは、計測箇所・範囲、計測ツール(断面積、角度、距離、高さ等)等を記憶する。さらに体積計測は、計測対象、基準面を記憶し、線粗さ/表面粗さは、計測箇所・範囲を記憶する。
(参照カメラ画像の保存例)
参照カメラ画像を撮影して記憶する例は、種々のパターンが利用できる。例えば参照カメラ画像をファイルとして保存することができる。参照カメラ画像は、撮像した観察対象物が判別できるように撮像することが肝要となる。参照カメラ画像を撮像する際の撮像条件等は、参照カメラ撮影条件設定部から設定する。このような参照カメラ撮影条件設定部の一例を、参照カメラ撮影条件設定画面210として図22に示す。この図に示す参照カメラ撮影条件設定画面210は、プレビュー欄211と、位置指定欄212と、画像サイズ指定欄213と、明るさ指定欄214を備えている。
位置指定欄212では、参照カメラ画像を埋め込む位置を指定する。プレビュー欄211には、位置指定欄212で指定された位置に応じて、参照カメラ画像の表示位置が矩形状に表示される。画像サイズ指定欄213では、参照カメラ画像のサイズを指定する。なお、上述した縮小表示させない態様の場合は、これらの位置指定欄212や画像サイズ指定欄213を省略してもよい。また明るさ指定欄214では、参照カメラ画像の明るさを調整する。ここでは、シャッタースピードを設定することで、撮像時の露光時間を調整して明るさを変更可能としている。また、シャッタースピードに代えて、あるいはこれに加えて、照明光の光量を調整することで、画像の明るさを変更するように構成してもよい。またHDR撮影に応じた撮像時の露光時間調整を実行するように構成してもよい。
図22の参照カメラ撮影条件設定画面210は、参照カメラ画像を拡大観察画像に埋め込んで保存する例を示している。この参照カメラ撮影条件設定画面210を用いて、参照カメラ画像を拡大観察画像上で表示させる位置や、表示サイズ、シャッタースピードすなわち画像の明るさ等を設定できる。このようにして保存された参照カメラ画像データを用いて、後日、拡大観察画像を見直す際に、一覧表示させる際などに活用して、所望の観察対象物を探す際の指標となる。また、撮像した日付や観察対象物の名称等の情報を画像データに記録しておくことで、これらを利用したキーワード検索やフォルダ検索にも利用できる。
このような参照カメラ画像と関連付けられた合成画像は、クイックリプレイ実行時の検索対象として含めることもできる。すなわち、図10Aに示したクイックリプレイ用のファイル選択画面150において、図24のファイル選択画面150’に示すように、検索条件として参照カメラ画像選択欄154を設けて、参照カメラ画像を含めた画像の検索を可能としてもよい。なお、全ての拡大観察画像に参照カメラの画像が対応付けて保存されている場合、参照カメラ画像選択爛154は無くともよく、この場合、拡大観察画像IMと参照カメラ画像を重畳して表示させたり、切り替えて表示させても良い。検索結果表示欄152においても、拡大観察画像IMの隅部に参照カメラ画像SI2を表示させてもよい。また、参照カメラ画像のみを表示させたり、参照カメラ画像と拡大観察画像とを並べて表示させてもよい。同様に図11に示したクイックリプレイ管理画面160においても、図25のクイックリプレイ管理画面160’に示すように、プレビュー表示欄162において拡大観察画像IMの隅部に参照カメラ画像SI2を表示させてもよい。
(参照カメラ画像を使ったマニュアル調整誘導)
さらに、上述したクイックリプレイ実行前に設定を変更するようにユーザに促すマニュアル調整誘導に際して、参照カメラ画像を利用することもできる。特に傾斜観察に際しては、傾斜角度を視覚的に把握し易い参照カメラ画像を活用することは有効となる。ここで参照カメラ画像を使ったマニュアル調整誘導の例を、図26に基づいて説明する。この図に示すマニュアル調整誘導画面220は、比較画像表示欄221を備えている。比較画像表示欄221では、現在参照カメラ部18で撮像中の参照カメラ画像のライブ画像SLと、選択された合成画像に記録された参照カメラ画像SPとを並べて表示させている。また傾斜観察に便利なように、対物レンズ部の現在の傾斜角度と、目標の傾斜角度、すなわち合成画像の条件データとして記録されている撮影時の角度が表示されている。なお比較画像表示欄221におけるライブ画像SLと記録された画像SPとの表示態様は、このような並べて対比させる他、上述の通りライブ画像SLの隅部に記録された画像SPを縮小表示させたり、マウスカーソルを重ねた際に裏側の画像を表示させたり、記憶された画像SPを半透明にしてライブ画像SLに重畳表示するようにしてもよいことは言うまでもない。
このように傾斜測定を行った際に、参照カメラ画像および傾斜角を併せて記憶しておくことで、後日別の観察時に同様の傾斜観察が行えるように、マニュアル調整誘導画面220で誘導表示する。この画面により、アタッチメントの有無などの測定条件も視覚的に確認することが可能であり、調整を促すことができる。
また、比較画像表示欄221のような参照カメラ画像を対比可能な表示態様を、クイックリプレイの設定時の表示態様として利用することもできる。さらに、マニュアル調整誘導画面220は、クイックリプレイ誘導欄222を備えてもよい。クイックリプレイ誘導欄222は、上述した図11のクイックリプレイ管理画面160と同様のインターフェースが利用できる。クイックリプレイ誘導欄222に含まれるプレビュー表示欄223には、参照カメラ画像を一部又は全面に表示させてもよい。また比較画像表示欄221のように並べて表示させてもよい。傾斜測定を行う上で、ユーザに対して必要な手順を誘導するインターフェースは、操作の判りやすさ等の点で有効となる。すなわち、クイックリプレイの設定を誘導する際に、側面視の参照カメラ画像を利用することで、傾斜角度の設定を感覚的に容易に行えるようになる。
(クイックリプレイ実行手順)
ここでクイックリプレイ機能を実行する手順を、図29のフローチャートに基づいて説明する。ここでは、過去に撮像された合成画像と同じ手順で、合成画像を新たに撮像する場合を考える。まずステップS2901において、保存された画像を一覧表示する。ここでは、拡大観察画像をディスプレイ部に一覧表示させる。次にステップS2902において、所望の画像を探す検索処理を行う。このような検索処理は図23で説明した通りである。ここでは、一覧表示された拡大観察画像や参照カメラ画像を参照しながら、必要に応じて、キーワードや日付などを指定して所望の画像を検索する。
次にステップS2903において、リプレイ対象を受け付けるかどうかを判定する。検索の結果、クイックリプレイの対象となる画像が見つからなかった場合は、ステップS2902に戻り、検索を繰り返す。一方、検索された画像に基づいてクイックリプレイの対象となる画像が決定されると、ステップS2904に進み、選択された画像に保存された条件データを読み出す。さらにステップS2905において、条件データを分類する。そしてステップS2906において、分類結果に基づいて分類項目を表示する。
次にステップS2907において、ステージ部30の設定を受け付けるかどうかを判定する。受け付ける場合は、ステップS2908に進み、初期位置を選択した上で、ステップS2909に進む。一方、ステージ部30の設定を受け付けない場合は、ステップS2907から直接、ステップS2909に進む。
ステップS2909においては、リプレイの実行を受け付けるかどうかを判定する。受け付けない場合は、ステップS2907に戻って上記の処理を繰り返す。一方で、リプレイの実行を受け付ける場合は、ステップS09からステップS2910に進み、条件データに基づいてリプレイを実行する。そしてステップS2910において、実行状況に基づいて分類項目を表示させる。最後にクイックリプレイの実行状況に基づいて分類項目を表示させる。
(初期位置を選択する手順)
以上のフローチャートのステップS2908における初期位置を選択する手順を、図30のフローチャートに基づいて説明する。まずステップS3000において、初期位置の選択を開始する。ここではステップS3001において、画像に記憶された高さを選択するか否かを判定する。記憶された高さを選択する場合、すなわち選択された合成画像と同じ高さで合成画像を撮像する場合は、ステップS3002に進み、保存された参照高さと下限と上限読み出す。例えば図27Aに示されるように、ステージ上面位置を参照高さZrefとし、下限Z1と上限Z2がそれぞれ+10、+15として記憶されているとすると、ステップS3003において、まず図27Bに示すように保存された下限Z1(+10)にZステージを移動させる。さらにステップS3004において、保存された下限Z1と上限Z2(+15)間でZステージを移動させる。さらにまたステップS3005において、保存された下限と上限間で画像を取得し、ステップS3013に進む。
一方、ステップS3001において、選択された画像に記憶された高さを選択しない場合、すなわち選択された画像とは異なる高さを初期位置とする場合は、ステップS3006に進み、図27Aにて記憶されていた上限Z2と下限Z1の差、つまりZ2-Z1を参照情報として選択された合成画像ファイルから読み出す。次にステップS3007において、現在のZステージの高さZ3を取得する。そしてステップS3008において、参照高さとしてZ3-10を取得し、さらに下限Z3、上限Z3+5を算出する。この演算は、例えば画像処理部84が行う。次にステップS3009において、図28Cに示すように算出された下限にZステージを移動させる。そしてステップS3010において、算出した下限と上限間でZステージを移動させる。さらにステップS3011において、算出した下限と上限間で画像を取得し、ステップS3012に進む。
そしてステップS3012において、所定の測定を行う。ここでは、画像処理部84が異なる高さ方向の画像を合成して合成画像を生成する。図27A~図27Cでは高さ方向の画像合成時について参照高さおよび下限と上限の算出方法について説明した。次に図28A~図28Cを用いて水平方向の画像合成時について参照位置、左端および右端の算出方法を説明する。まず図28Aのように水平参照位置Xref、右端X1、左端X2が記憶されているとする。ここでは例えばXrefをステージ中央つまりX=0として、右端X1をX=+10、左端X2をX2=-15とする。画像に記憶された水平方向の範囲で画像合成を行う場合、保存された参照位置としてXref=0、右端X1=+10、左端X2=-15を読み出し、図28BのようにX1-X2の範囲で画像合成を行う。選択された画像に記憶された水平位置を選択しない場合、まず画像合成を行う水平方向の範囲X1-X2を参照情報として取得する。次に現在のX座標X3を取得し、左端X3、Xref=X3+15、右端X3+25を算出し、X3-X3+25の範囲で画像を取得し合成する。
(合成処理)
ここで、画像処理部84で画像合成の生成等の画像処理や計測を行う手順を、図31のフローチャートに基づいて説明する。まずステップS3101において各種の設定を行う。ここで設定には、撮影時の撮影条件の設定や、合成時の画像処理条件の設定、計測時の計測条件や画像テンプレートの設定などが挙げられる。具体的に撮影条件としては、倍率や露光等のカメラ撮影条件、照明状態や明るさ等の照明条件、傾斜観察の場合は傾斜角、フィルタを用いる場合はフィルタパラメータ等を適宜設定できる。また合成時の画像処理条件としては、例えば2D合成時の範囲や座標、HDR実行時のパラメータ、3D合成時の範囲やピッチ、座標等が挙げられる。
次にステップS3102において、上記で設定された撮影条件に従って撮影を行う。さらにステップS3103において、合成を行う。また必要に応じて、ステージ部30の移動等の移動機構の制御を行う。そしてステップS3104において計測を行う。最後にステップS3105において保存を行う。ここでは、画像や条件データをデータファイルとして保存する。
以上のようにクイックリプレイ機能の実行前に開始位置を選択できるようにしたことで、意図しない観察対象物と対物レンズ部の衝突を回避できる。
本発明の拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器は、顕微鏡や反射、透過型等のデジタルマイクロスコープ等に好適に利用できる。
100、200、300…拡大観察装置
1…撮像系
2…制御系
3…ケーブル部
4…ヘッド部
5…移動機構
10…カメラ部
11…撮像光学系
12…撮像素子;13…撮像素子制御回路
16…上Z昇降器
18…参照カメラ部
20…顕微鏡レンズ部
25…対物レンズ部
30…ステージ部
35…下ステージ昇降器
36…モータ制御回路
37…ステッピングモータ
40…支持台
41…ベース部
42…ステージ固定機構
43…カメラ取り付け部
44…ヘッド傾斜機構
45…揺動軸
50…本体部;52…表示制御部
53…ストレージ部;54…インターフェース;
55…操作部;55a…移動方向指示部;55b…ジョイスティック
56…メモリ部;
57…バッファメモリ
60…照明部
61…ビームスプリッタ
62…同軸落射照明部
63…リング照明部
66…照明制御部
70…ディスプレイ部
80…プロセッサ部;
83…移動制御部
84…画像処理部
85…相対関係特定部
86…条件データ選択部;86b…初期位置選択部;86c…位置合わせ選択部
87…リプレイ実行部
88…合成画像検索部
111…画像表示領域
112…操作領域
150、150’…ファイル選択画面
151…検索条件指定欄
152…検索結果表示欄
153…ファイル検索欄
154…参照カメラ画像選択欄
155…機能検索欄
155’…機能
156…レンズ検索欄
157…照明検索欄
157’…落射照明
157”…透過照明
158…合成画像
160、160’…クイックリプレイ管理画面
161…リプレイ処理表示欄
162…プレビュー表示欄
163…メッセージ表示欄
164…リプレイ開始ボタン
165…ステージ設定ボタン
166…調整情報表示爛
167…「計測ツール配置時に画像の位置を補正」チェックボックス
170…位置指定画面
180…リプレイ進行画面
181…手順表示欄
182…プログレスバー
183…中止ボタン
190…警告画面
210…参照カメラ撮影条件設定画面
211…プレビュー欄
212…位置指定欄
213…画像サイズ指定欄
214…明るさ指定欄
220…マニュアル調整誘導画面
221…比較画像表示欄
222…クイックリプレイ誘導欄
223…プレビュー表示欄
WK、WK1、WK2…観察対象物
AX…光軸
JG…押し当て治具
SI、SI2、SI3…参照カメラ画像
ED…エッジ
IM、IM3…拡大観察画像
AT…アタッチメント
SL…ライブ画像
SP…合成画像に記録された参照カメラ画像

Claims (18)

  1. 観察対象物を載置するためのステージ部と、
    前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、
    前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、
    前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を変化させる移動機構と、
    前記移動機構により変化される前記相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する表示制御部と、
    前記移動機構により変化される前記相対関係に関する情報を特定する相対関係特定部と、
    前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて合成画像を生成する画像処理部と、
    前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けて保存するストレージ部と、
    前記ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された条件データの一部又は全部を選択可能な条件データ選択部と、
    前記ステージ部上に載置された観察対象物に対して、前記条件データ選択部により選択された条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイ実行部と、
    を備え
    前記条件データ選択部は、
    前記合成画像撮像時の前記移動機構による前記ステージ部と前記対物レンズ部の移動範囲を再現するモードと、
    当該移動範囲に関する条件を編集して再現するモードと、
    を選択させ、
    前記リプレイ実行部は、前記移動範囲を再現するモードにおいて、
    前記条件データ選択部で選択された前記移動機構による移動範囲に基づいて、前記移動機構により前記ステージ部と前記対物レンズ部の少なくとも一方を移動させて前記合成画像撮像時の前記ステージ部と前記対物レンズ部の移動開始位置から移動終了位置までの移動を再現しながら、前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させ、
    前記条件データ選択部で選択された前記移動機構による移動範囲に関する条件の内、前記ステージ部と前記対物レンズ部の移動開始位置を、前記ステージ部と前記対物レンズ部の現在位置に設定するとともに、移動終了位置を当該現在位置を基準に補正することで条件を編集し、前記移動機構により、前記現在位置に設定された移動開始位置から補正された移動終了位置まで前記ステージ部と前記対物レンズ部の少なくとも一方を移動させながら前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させる拡大観察装置。
  2. 請求項1に記載の拡大観察装置であって、
    前記条件データ選択部が、
    前記ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された条件データの内、前記相対関係に関する情報に基づく保存時初期位置と、
    前記表示制御部によりディスプレイ部に表示中の相対関係に基づく現在初期位置
    のいずれかを、実行初期位置として選択させるための初期位置選択部を含み、
    前記リプレイ実行部が、前記ステージ部上に載置された観察対象物に対して、前記初期位置選択部により選択された実行初期位置と、前記ストレージ部により合成画像に関連付けて保存された前記相対関係に関する情報とに基づいて、前記移動機構で観察視野を移動させて、前記画像処理部に合成画像を生成させるよう構成されてなる拡大観察装置。
  3. 請求項1又は2に記載の拡大観察装置であって、
    前記条件データ選択部が、
    前記ストレージ部に保存された何れかの合成画像の画像データと関連付けて保存された、画像合成を実行する前に、位置合わせを行うか否かを選択可能な位置合わせ選択部を含み、
    前記リプレイ実行部が、前記ステージ部上に載置された観察対象物に対して、前記位置合わせ選択部により選択された位置合わせの実行可否に基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるよう構成されてなる拡大観察装置。
  4. 請求項3に記載の拡大観察装置であって、
    前記リプレイ実行部が、前記条件データに基づいて、前記カメラ部の光軸方向に沿った画像合成を実行する際に、前記条件データに含まれる上下限設定から所定の範囲広げた範囲で前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるよう構成されてなる拡大観察装置。
  5. 請求項1又は2に記載の拡大観察装置であって、
    前記ストレージ部は、前記カメラ部で生成された画像データと、当該画像データに対する計測の条件に関する情報を一以上含む条件データとを関連付けて保存し、
    前記条件データ選択部が、
    前記ストレージ部に保存された何れかの画像データと関連付けて保存された、計測を実行する前に、位置合わせを行うか否かを選択可能な位置合わせ選択部を含み、
    前記リプレイ実行部が、前記ステージ部上に載置された観察対象物に対して、前記位置合わせ選択部により選択された位置合わせの実行可否に基づいて、前記移動機構及びカメラ部を制御して、前記カメラ部で生成された画像データに対して計測を行うよう構成されてなる拡大観察装置。
  6. 請求項1~5のいずれか一項に記載の拡大観察装置であって、
    前記ストレージ部は、前記画像処理部により生成された合成画像のデータと、前記相対関係特定部で特定された前記相対関係に関する情報のデータとを、一のデータファイルとして保存してなる拡大観察装置。
  7. 請求項1~6のいずれか一項に記載の拡大観察装置であって、さらに、
    前記ストレージ部に保存された複数の合成画像の中から、前記条件データ選択部で何れかの合成画像を選択する際、所望の合成画像を検索する検索条件を受け付けて、該検索条件に合致する合成画像を抽出可能な合成画像検索部を備える拡大観察装置。
  8. 請求項7に記載の拡大観察装置であって、
    前記合成画像検索部が、検索条件として、合成画像データの画像合成処理の種別、計測の種別、撮影に用いた対物レンズ部の種別又は倍率、照明状態の内、少なくともいずれかの指定を受け付け可能としてなる拡大観察装置。
  9. 請求項1に記載の拡大観察装置であって、
    前記ストレージ部は、前記カメラ部で生成された画像データと、当該画像データに対する計測の条件に関する情報を一以上含む条件データとを関連付けて保存し、
    前記リプレイ実行部が、前記ステージ部上に載置された観察対象物に対して、前記条件データに基づいて前記カメラ部で生成された画像データに対して計測を実行する拡大観察装置。
  10. 請求項9に記載の拡大観察装置であって、
    前記ストレージ部は、前記カメラ部で生成された画像データと、当該画像データの撮像時の条件に関する情報を一以上含む条件データとを関連付けて保存する拡大観察装置。
  11. 請求項10に記載の拡大観察装置であって、
    前記ストレージ部は、前記画像処理部により生成された合成画像の画像データと、当該合成画像に対する計測の条件に関する情報を一以上含む条件データとを関連付けて保存する拡大観察装置。
  12. 請求項1~11のいずれか一項に記載の拡大観察装置であって、
    前記表示制御部は、さらに、前記条件データに基づいて前記リプレイ実行部が実行する各処理項目を並べてディスプレイ部に表示するよう構成してなる拡大観察装置。
  13. 請求項12に記載の拡大観察装置であって、
    前記表示制御部は、並べて表示された各処理項目のうち、前記リプレイ実行部が実行中の処理に対応する処理項目を強調表示するよう構成してなる拡大観察装置。
  14. 請求項13に記載の拡大観察装置であって、
    前記表示制御部は、前記処理項目として、撮像設定に関する項目、画像合成に関する項目、計測に関する項目を含む拡大観察装置。
  15. 請求項1~14のいずれか一項に記載の拡大観察装置であって、さらに、
    前記ステージ部上の観察対象物の像を前記カメラ部とは異なる位置から撮像して、当該像の画像データとは異なる姿勢の参照画像データを生成する参照カメラ部を備え、
    前記ストレージ部は、前記画像データを前記参照画像データと関連付けて保存するよう構成してなる拡大観察装置。
  16. ステージ部に載置された観察対象物を、対物レンズ部を介してカメラ部で撮像してディスプレイ部に表示させ、前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を移動機構で変化させて観察する拡大画像観察方法であって、
    前記移動機構により変化される前記ステージ部と前記対物レンズ部との相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する工程と、
    前記移動機構により変化される前記相対関係に関する情報を特定する工程と、
    前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて画像処理部で合成画像を生成する工程と、
    前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けてストレージ部に保存する工程と、
    前記条件データに含まれる前記移動機構による移動範囲に基づいて、前記移動機構により前記ステージ部と前記対物レンズ部の少なくとも一方を移動させて前記合成画像撮像時の前記ステージ部と前記対物レンズ部の移動開始位置から移動終了位置までの移動を再現しながら、前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させるモードと、
    前記移動機構による移動範囲に関する条件の内、前記ステージ部と前記対物レンズ部の移動開始位置を、前記ステージ部と前記対物レンズ部の現在位置に設定するとともに、移動終了位置を当該現在位置を基準に補正することで条件を編集し、前記移動機構により、前記現在位置に設定された移動開始位置から補正された移動終了位置まで前記ステージ部と前記対物レンズ部の少なくとも一方を移動させながら前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させるモードを選択させる工程と、
    前記ステージ部上に載置された観察対象物に対して、前記選択されたモードと前記条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイを実行させる工程と、
    を含む拡大画像観察方法。
  17. 観察対象物を載置するためのステージ部と、
    前記ステージ部上の観察対象物に向けて配置される対物レンズ部と、
    前記対物レンズ部を介して結像された観察対象物の像を撮像して、当該像を示す画像データを生成するカメラ部と、
    前記ステージ部と前記対物レンズ部との相対位置又は相対距離の少なくとも一方の相対関係を変化させる移動機構と、
    前記移動機構により変化される前記相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像を表示させるディスプレイ部と、
    を備える拡大観察装置を操作する拡大画像観察プログラムであって、
    前記移動機構により変化される前記ステージ部と前記対物レンズ部との相対関係における、前記カメラ部が生成する画像データに基づいて観察対象物を含む観察視野の画像をディスプレイ部に表示する機能と、
    前記移動機構により変化される前記相対関係に関する情報を特定する機能と、
    前記移動機構により前記相対関係を変化させて、複数の異なる相対関係において前記カメラ部により撮像された像を示す複数の画像データに基づいて画像処理部で合成画像を生成する機能と、
    前記画像処理部により生成された合成画像の画像データと、当該合成画像の撮像時の条件に関する情報を一以上含む条件データとを関連付けてストレージ部に保存する機能と、
    前記条件データに含まれる前記移動機構による移動範囲に基づいて、前記移動機構により前記ステージ部と前記対物レンズ部の少なくとも一方を移動させて前記合成画像撮像時の前記ステージ部と前記対物レンズ部の移動開始位置から移動終了位置までの移動を再現しながら、前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させるモードと、
    前記移動機構による移動範囲に関する条件の内、前記ステージ部と前記対物レンズ部の移動開始位置を、前記ステージ部と前記対物レンズ部の現在位置に設定するとともに、移動終了位置を当該現在位置を基準に補正することで条件を編集し、前記移動機構により、前記現在位置に設定された移動開始位置から補正された移動終了位置まで前記ステージ部と前記対物レンズ部の少なくとも一方を移動させながら前記カメラ部を制御して複数枚の画像を撮像させ、当該画像に基づいて前記画像処理部に合成画像を生成させるモードを選択させる機能と、
    前記ステージ部上に載置された観察対象物に対して、前記選択されたモードと前記条件データに基づいて、前記移動機構及びカメラ部を制御して、前記画像処理部で合成画像を生成させるリプレイを実行させる機能と、
    をコンピュータに実現させる拡大画像観察プログラム。
  18. 請求項17に記載のプログラムを格納したコンピュータで読み取り可能な記録媒体又は記憶した機器。
JP2021025735A 2021-02-19 2021-02-19 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器 Active JP7685339B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021025735A JP7685339B2 (ja) 2021-02-19 2021-02-19 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021025735A JP7685339B2 (ja) 2021-02-19 2021-02-19 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器

Publications (2)

Publication Number Publication Date
JP2022127538A JP2022127538A (ja) 2022-08-31
JP7685339B2 true JP7685339B2 (ja) 2025-05-29

Family

ID=83059970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021025735A Active JP7685339B2 (ja) 2021-02-19 2021-02-19 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器

Country Status (1)

Country Link
JP (1) JP7685339B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008090072A (ja) 2006-10-03 2008-04-17 Keyence Corp 拡大画像観察システム、共焦点顕微鏡、画像データ転送方法、3次元合焦点画像生成方法、データ転送プログラム、3次元合焦点画像生成プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2009258187A (ja) 2008-04-11 2009-11-05 Keyence Corp 光学顕微鏡装置及び光学顕微鏡用データ処理装置
JP2011138096A (ja) 2009-12-01 2011-07-14 Aska Company 測定顕微鏡
JP2014109492A (ja) 2012-11-30 2014-06-12 Keyence Corp 計測顕微鏡装置、画像生成方法及び計測顕微鏡装置操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2014109491A (ja) 2012-11-30 2014-06-12 Keyence Corp 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2017032339A (ja) 2015-07-30 2017-02-09 株式会社キーエンス 三次元画像検査装置、三次元画像検査方法及び三次元画像検査プログラム並びにコンピュータで読み取り可能な記録媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008090072A (ja) 2006-10-03 2008-04-17 Keyence Corp 拡大画像観察システム、共焦点顕微鏡、画像データ転送方法、3次元合焦点画像生成方法、データ転送プログラム、3次元合焦点画像生成プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2009258187A (ja) 2008-04-11 2009-11-05 Keyence Corp 光学顕微鏡装置及び光学顕微鏡用データ処理装置
JP2011138096A (ja) 2009-12-01 2011-07-14 Aska Company 測定顕微鏡
JP2014109492A (ja) 2012-11-30 2014-06-12 Keyence Corp 計測顕微鏡装置、画像生成方法及び計測顕微鏡装置操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2014109491A (ja) 2012-11-30 2014-06-12 Keyence Corp 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2017032339A (ja) 2015-07-30 2017-02-09 株式会社キーエンス 三次元画像検査装置、三次元画像検査方法及び三次元画像検査プログラム並びにコンピュータで読み取り可能な記録媒体

Also Published As

Publication number Publication date
JP2022127538A (ja) 2022-08-31

Similar Documents

Publication Publication Date Title
JP6091866B2 (ja) 計測顕微鏡装置、画像生成方法及び計測顕微鏡装置操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP6462823B2 (ja) 画像検査装置
JP5963658B2 (ja) 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2015127772A (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体
JP2004153462A (ja) 拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体
JP2014109489A (ja) 計測顕微鏡装置及びこれを用いた画像撮像方法
JP2008139795A (ja) 拡大画像観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6218893B2 (ja) 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP2018081666A (ja) 画像生成装置、画像生成方法及びプログラム
JP2020086293A (ja) 拡大観察装置
JP2018082416A (ja) 画像生成装置、画像生成方法及びプログラム
JP2007172393A (ja) 3次元画像表示装置、3次元画像表示装置の操作方法、3次元画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2025172902A (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2008139796A (ja) 蛍光顕微鏡、蛍光顕微鏡の操作方法、蛍光顕微鏡操作プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP4480492B2 (ja) 拡大観察装置、画像ファイル生成装置、画像ファイル生成プログラム、3次元画像表示プログラム及びコンピュータで読み取り可能な記録媒体
JP4536422B2 (ja) 拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器
JP2014109493A (ja) 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体
JP7685339B2 (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP7780256B2 (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP7768680B2 (ja) 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
JP2006030969A (ja) 拡大観察装置、拡大観察装置の操作方法、拡大観察装置操作プログラムおよびコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2019190919A (ja) 形状測定装置、形状測定方法、形状測定プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6694248B2 (ja) 三次元画像検査装置、三次元画像検査方法及び三次元画像検査プログラム並びにコンピュータで読み取り可能な記録媒体
CN1457447A (zh) 光调制装置的位置调节装置及光调制装置的位置调节方法
JP4536421B2 (ja) 拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231211

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250513

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250519

R150 Certificate of patent or registration of utility model

Ref document number: 7685339

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150