[第1実施形態]
以下、本発明の第1実施形態として構造化照明顕微鏡装置を説明する。
先ず、構造化照明顕微鏡装置の構成を説明する。
図1は、構造化照明顕微鏡装置1の構成図である。以下では構造化照明顕微鏡装置1を全反射蛍光顕微鏡(TIRFM:Total Internal Reflection Fluorescence Microscopy)として使用する場合も適宜併せて説明する。TIRFMは、蛍光性を有した試料(標本)5の表面の極めて薄い層を観察するものである。
先ず、構造化照明顕微鏡装置1の構成を説明する。
図1に示すとおり構造化照明顕微鏡装置1には、レーザユニット100と、光ファイバ11と、照明光学系10と、結像光学系30と、第1撮像素子351と、第2撮像素子352と、制御装置39と、画像記憶・演算装置40と、画像表示装置45とが備えられる。なお、照明光学系10は落射型であり、結像光学系30の対物レンズ6及びダイクロイックミラー7を利用して標本5の照明を行う。
レーザユニット100には、第1レーザ光源101、第2レーザ光源102、シャッタ1031、1032、ミラー105、ダイクロイックミラー106、レンズ107が備えられる。第1レーザ光源101及び第2レーザ光源102の各々は、可干渉性の高いレーザー光を出射する光源であって、互いの出射波長は異なる。ここでは、第1レーザ光源101の波長λ1は、第2レーザ光源102の波長λ2よりも長いと仮定する(λ1>λ2)。これらの第1レーザ光源101、第2レーザ光源102、シャッタ1031、1032は、それぞれ制御装置39によって駆動・制御される。
光ファイバ11は、レーザユニット100から射出したレーザ光を導光するために、例えば、偏波面保存型のシングルモードファイバによって構成される。光軸Oの方向における光ファイバ11の出射端の位置は、位置調整機構11Aによって調節可能である。この位置調整機構11Aは、制御装置39によって駆動・制御される。なお、位置調整機構11Aとしては、例えば、ピエゾ素子等が用いられる。
照明光学系10には、光ファイバ11の出射端側から順に、コレクタレンズ12と、偏光板23と、光束分岐部15と、集光レンズ16と、光束選択部24と、レンズ25と、視野絞り26と、フィールドレンズ27と、励起フィルタ28と、ダイクロイックミラー7と、対物レンズ6とが配置される。
なお、光ファイバ11として偏波面保存型のシングルモードファイバを使用した場合は、光ファイバ11の前後でレーザ光の偏波面が保存されるので、偏光板23は非必須であるが、レーザ光の偏光の品質を保つためには有効である。一方、光ファイバ11としてマルチモードファイバを使用した場合、偏光板23は必須である。
光束分岐部15には、回折光学素子(回折格子)13と、並進機構15Aとが備えられ、光束選択部24には、1/2波長板17と、光束選択部材18と、0次光シャッタ200と、回動機構24Aと、回動機構200Aとが備えられる。なお、並進機構15A、回動機構24A、回動機構200Aは、制御装置39によって駆動・制御される。
結像光学系30には、標本5の側から順に、対物レンズ6と、ダイクロイックミラー7と、バリアフィルタ31と、第2対物レンズ32と、第2ダイクロイックミラー35と、が配置される。
標本5は、例えば、平行平板状のガラス表面に配置された蛍光性の細胞(蛍光色素で染色された細胞)や、シャーレ内に存在する蛍光性の生体細胞(蛍光色素で染色された動く細胞)などの細胞である。この細胞には、波長λ1の光によって励起される第1蛍光領域と、波長λ2の光によって励起される第2蛍光領域との双方が発現している。
なお、第1蛍光領域は、波長λ1の光に応じて中心波長λ1’の第1蛍光を発生させ、第2蛍光領域は、波長λ2の光に応じて中心波長λ2’の第2蛍光を発生させる。
構造化照明顕微鏡装置1がTIRFM(全反射蛍光顕微鏡)として使用される場合、対物レンズ6は、液浸型(油浸型)の対物レンズとして構成される。つまり、対物レンズ6と標本5のガラスとの間隙は、浸液(油)で満たされる。
第1撮像素子351、第2撮像素子352の各々は、CCDやCMOS等からなる二次元の撮像素子である。第1撮像素子351、第2撮像素子352の各々は、制御装置39によって駆動されると、第1撮像素子351の撮像面361、第2撮像素子352の撮像面362の各々に形成された像を撮像し、画像を生成する。これら第1撮像素子351、第2撮像素子352の各々が生成した画像は、制御装置39を介して画像記憶・演算装置40へと取り込まれる。なお、第1撮像素子351、第2撮像素子352の各々は、所定のフレーム周期で画像生成(撮像)を繰り返すことが可能である。第1撮像素子351、第2撮像素子352の各々のフレーム周期(撮像の繰り返し周期)は、例えば、80msecなどに設定される。なお、撮像素子のフレーム周期は、撮像素子の撮像時間(すなわち電荷蓄積及び電荷読出に要する時間)、干渉縞の方向切り換えに要する時間、その他の所要時間のうち、律速によって定められる。
制御装置39は、レーザユニット100、位置調整機構11A、並進機構15A、回動機構24A、回動機構200A、第1撮像素子351、第2撮像素子352を駆動制御する。
画像記憶・演算装置40は、制御装置39を介して与えられた画像に対して演算を施し、演算後の画像を不図示の内部メモリに格納すると共に、画像表示装置45へ送出する。
次に、構造化照明顕微鏡装置1におけるレーザ光の振る舞いを説明する。
第1レーザ光源101から射出した波長λ1のレーザ光(第1レーザ光)は、シャッタ1031を介してミラー105へ入射すると、ミラー105を反射し、ダイクロイックミラー106へ入射する。一方、第2レーザ光源102から射出した波長λ2のレーザ光(第2レーザ光)は、シャッタ1032を介してビームスプリッタ106へ入射し、第1レーザ光と統合される。ダイクロイックミラー106から射出した第1レーザ光及び第2レーザ光は、レンズ107を介して光ファイバ11の入射端に入射する。
なお、制御装置39は、レーザユニット100のシャッタ1031、1032を制御することにより、光ファイバ11の入射端に入射するレーザ光の波長(=光源波長)を、長い波長λ1と短い波長λ2との間で切り替えたり、光源波長を長い波長λ1と短い波長λ2との双方に設定したりすることができる。
光ファイバ11の入射端に入射したレーザ光は、光ファイバ11の内部を伝搬して光ファイバ11の出射端に点光源を生成する。その点光源から射出したレーザ光は、コレクタレンズ12によって平行光束に変換され、偏光板23を介して回折格子13へ入射すると、各次数の回折光束に分岐される。これら各次数の回折光束(以下、「回折光束群」と称す。)は、集光レンズ16に入射すると、集光レンズ16によって瞳共役面6A’の互いに異なる位置に集光される。
ここで、瞳共役面6A’は、後述する対物レンズ6の瞳6A(±1次回折光が集光する位置)に対してフィールドレンズ27、レンズ25を介して共役な位置のことである。集光レンズ16の焦点位置(後ろ側焦点位置)は、この瞳共役面6A’に一致している。但し、ここでいう「共役な位置」の概念には、当業者が対物レンズ6、フィールドレンズ27、レンズ25の収差、ビネッティング等の設計上必要な事項を考慮して決定した位置も含まれるものとする。
なお、光ファイバ11から射出したレーザ光は基本的に直線偏光しているので、偏光板23は、省略することも可能であるが、余分な偏光成分を確実にカットするために有効である。また、レーザ光の利用効率を高めるため、偏光板23の軸は、光ファイバ11から射出したレーザ光の偏光方向に一致していることが望ましい。
瞳共役面6A’に向かった各次数の回折光束は、瞳共役面6A’の近傍に配置された光束選択部24へ入射する。
ここで、構造化照明顕微鏡装置1がTIRFM(全反射蛍光顕微鏡)として利用される場合、光束選択部24は、入射した各次数の回折光束のうち、1対の回折光束のみ(ここでは±1次回折光束のみ)を選択的に通過させる。
光束選択部24を通過した±1次回折光束は、レンズ25によって視野絞り26付近で回折格子13と共役な面を形成する。その後、±1次回折光束の各々は、フィールドレンズ27により収束光に変換され、さらに励起フィルタ28を経てからダイクロイックミラー7で反射し、対物レンズ6の瞳面6A上の互いに異なる位置に集光される。
瞳面6A上に集光した±1次回折光束の各々は、対物レンズ6の先端から射出される際には平行光束となり、標本5の表面で互いに干渉し、干渉縞を形成する。この干渉縞が、構造化照明光として使用される。
また、構造化照明顕微鏡装置1がTIRFM(全反射蛍光顕微鏡)として利用される場合、標本5の表面に入射する際の入射角度は、エバネッセント場の生成条件(全反射条件)を満たす。以下、全反射条件を「TIRF条件」と称す。
TIRF条件を満たすためには、瞳面6Aにおける±1次回折光束の集光点は、瞳面6Aの最外周に位置する所定の輪帯状領域に位置してればよい。この場合、標本5の表面近傍には、干渉縞によるエバネッセント場が生起する。
このような干渉縞により標本5を照明すると、干渉縞の周期構造と標本5上の蛍光領域の周期構造との差に相当するモアレ縞が現れるが、このモアレ縞においては、蛍光領域の高周波数の構造が元の周波数より低周波数側にシフトしているため、この構造を示す蛍光は、元の角度よりも小さい角度で対物レンズ6へ向かうことになる。よって、干渉縞により標本5を照明すると、蛍光領域の高周波数の構造情報までもが対物レンズ6によって伝達される。
標本5で発生した蛍光は、対物レンズ6に入射すると、対物レンズ6で平行光に変換された後、ダイクロイックミラー7及びバリアフィルタ31を透過し、第2ダイクロイックミラー35へ入射する。第2ダイクロイックミラー35へ入射した波長λ1’の第1蛍光は、第2ダイクロイックミラー35を反射し、第2ダイクロイックミラー35へ入射した波長λ2’の第2蛍光は、第2ダイクロイックミラー35を透過する。
第2ダイクロイックミラー35を反射した第1蛍光は、第1撮像素子351の撮像面361上に第1蛍光領域の変調像を形成し、第2ダイクロイックミラー35を透過した第2蛍光は、第2撮像素子352の撮像面362上に第2蛍光領域の変調像を形成する。
撮像面361に形成された第1蛍光領域の変調像、撮像面362に形成された第2蛍光領域の変調像は、第1撮像素子351、第2撮像素子352によって個別に画像化され、第1蛍光領域の変調画像と、第2蛍光領域の変調画像とが生成される。
第1蛍光領域の変調画像と、第2蛍光領域の変調画像とは、制御装置39を介して画像記憶・演算装置40へと取り込まれる。さらに、取り込まれた第1蛍光領域の変調画像と、第2蛍光領域の変調画像との各々には、画像記憶・演算装置40において復調演算が施され、第1蛍光領域の復調画像(超解像画像)と、第2蛍光領域の復調画像(超解像画像)とが生成される。そして、これらの超解像画像は、画像記憶・演算装置40の内部メモリ(図示せず)に記憶されるとともに、画像表示装置45へと送出される。なお、復調演算としては、後述する復調演算(第1.7節、又は、第2.5節を参照)が用いられる。
次に、回折格子13を詳しく説明する。
図2(A)は、回折格子13を光軸Oの方向から見た図であり、図2(B)は、±1次回折光束が瞳共役面6A’に形成する集光点の位置関係を示す図である。なお、図2(A)は模式図であるため、図2(A)に示した回折格子13の構造周期は実際の構造周期と同じとは限らない。
図2(A)に示すように、回折格子13は、照明光学系10の光軸Oと垂直な面内において互いに異なる複数方向にかけて周期構造を有した回折格子である。この回折格子13の材質は、例えばガラスである。ここでは、回折格子13は、120°ずつ異なる第1方向V1、第2方向V2、第3方向V3の各々にかけて周期構造を有した3方向回折格子であって、それら周期構造の周期は共通であると仮定する。
なお、回折格子13の周期構造は、濃度(透過率)を利用して形成された濃度型の周期構造、または段差(位相差)を利用して形成された位相型の周期構造の何れであってもよいが、位相差型の周期構造の方が+1次回折光束の回折効率が高いという点で好ましい。
このような回折格子13に入射した平行光束は、第1方向V1にかけて分岐した第1回折光束群と、第2方向V2にかけて分岐した第2回折光束群と、第3方向V3にかけて分岐した第3回折光束群とに変換される。
第1回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行し、0次回折光束は、光軸Oに沿って進行する。
同様に、第2回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行し、0次回折光束は、光軸Oに沿って進行する。
同様に、第3回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸Oに関して対称な方向に進行し、0次回折光束は、光軸Oに沿って進行する。
これら第1回折光束群の±1次回折光束、第2回折光束群の±1次回折光束、第3回折光束群の±1次回折光束は、前述した集光レンズ16により、瞳共役面6A’内の互いに異なる位置に集光される。
そして、図2(B)に示すように、第1回折光束群の±1次回折光束の集光点14d、14gは、光軸Oに関して対称であり、集光点14d、14gの配列方向は第1方向V1に対応している。
また、第2回折光束群の±1次回折光束の集光点14c、14fは、光軸Oに関して対称であり、集光点14c、14fの配列方向は、第2方向V2に対応している。なお、第2回折光束群の集光点14c、14fから光軸Oまでの距離は、第1回折光束群の集光点14d、14gのから光軸Oまでの距離と同じである。
また、第3回折光束群の±1次回折光束の集光点14b、14eは、光軸Oに関して対称であり、集光点14b、14eの配列方向は、第3方向V3に対応している。なお、第3光束群の集光点14b、14eから光軸Oまでの距離は、第1回折光束群の集光点14d、14gから光軸Oまでの距離と同じである。
また、図2(B)に示すように、第1〜第3回折光束群の各群の0次回折光束の集光点14aは、光軸O上に位置する。
因みに、光ファイバ11から射出されるレーザ光の波長をλ、回折格子13の構造周期をP、レンズ16の焦点距離をfcとすると、光軸Oから集光点14b〜14gまでの距離Dは下記の式で表される。
D∝2fcλ/P
また、ここでいう「集光点」とは、最大強度の8割以上の強度を有する領域の重心位置のことである。そのため、本実施形態の照明光学系10は、完全な集光点が形成されるまで光束を集光する必要はない。
そして、以上の回折格子13は、ピエゾモータ等からなる並進機構15A(図1参照)によって並進移動が可能である。並進機構15Aによる回折格子13の並進移動の方向は、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の各々に対して非垂直な方向である。この方向に回折格子13が並進移動すると、干渉縞の位相がシフトする(詳細は後述。)。
次に、0次光シャッタ200を詳しく説明する。
図3(A)は、0次光シャッタ200を説明する図である。図3(A)に示すとおり0次光シャッタ200は、円形の透明基板の一部に円形の遮光部200Cを形成してなる空間フィルタである。
0次光シャッタ200の遮光部200Cは、第1〜第3回折光束群に共通する0次回折光束の光路(集光点14a)をカバーし、0次光シャッッタ200の非遮光部(透過部200B)は、第1〜第3回折光束群の各群の±1次回折光束の光路(集光点14b〜14g)をカバーする。
この0次光シャッタ200は、回動機構200A(図1参照)により、照明光学系10の光軸Oと平行、かつその光軸Oから離れた直線(軸AR)の周りに回動可能である。
なお、 回動機構200Aには、例えば、0次光シャッタ200を保持し、かつ軸ARの周りに回転可能な不図示の回動軸と、その回動軸へ回転力を与える不図示のモータ(回転モータ)とが備えられる。このモータが駆動されると、回転軸が回転し、0次光シャッタ200が軸ARの周りに回転する。
0次光シャッタ200の回動角が図3(A)に示した基準角度(0°)に設定されると、遮光部200Cが0次回折光束の光路に挿入され、0次光シャッタ200の回動角が基準角度から外れた所定角度(例えば30°)に設定されると、遮光部200Cが0次回折光束の光路から外れる。
したがって、0次光シャッタ200の回動角を0°と30°との間で切り換えれば、第1〜第3回折光束群の各群の±1次回折光束をオンしたまま0次回折光束のみをオン/オフすることができる。
但し、0次光シャッタ200の回動角が基準角度(0°)、所定角度(30°)の何れである場合にも、0次光シャッタ200の遮光部200Cは、第1〜第3回折光束群の各群の±1次回折光束の光路を遮ることは無いものとする。
また、ここでは0次光シャッタ200を回動可能な空間フィルタとしたが、スライド可能な空間フィルタや、固定配置された液晶素子などで0次光シャッタ200を構成してもよい。なお、液晶素子の配向を電気的に制御すれば、液晶素子の屈折率異方性を制御することができるので、液晶素子を0次光シャッタ200として機能させることができる。
以下、0次光シャッタ200が0次回折光束をオン又はオフするために必要な時間は、撮像素子の撮像時間(30msec、60msecなど)と比較して、十分に短い(例えば5msec程度)と仮定する。
次に、光束選択部材18を詳しく説明する。
図3(B)は、光束選択部材18を説明する図である。図3(B)に示すとおり光束選択部材18は、円形の不透明基板(マスク用基板)にスリット状の開口部19、20と、円形の開口部29とを形成してなる空間フィルタである。
光束選択部材18の開口部19は、第1〜第3回折光束群のうち、何れか1つの光束群に属する+1次回折光束の光路(図3(B)では集光点14g)をカバーし、光束選択部材18の開口部20は、同じ光束群に属する−次回折光束の光路(図3(B)では集光点14d)をカバーし、光束選択部材18の開口部29は、第1〜第3回折光束群に共通する0次回折光束の光路(集光点14a)をカバーし、光束選択部材18の非開口部は、他の2つの光束群に属する±1次回折光束の光路(図3(B)では集光点14b、14c、14e、14f)をカバーする。
このうち、開口部19の形成先と開口部20の形成先とは、照明光学系10の光軸Oに関して対称である。つまり、開口部19を2等分する光軸Oを通る2等分線は、開口部20を2等分する光軸Oを通る2等分線に対して180°ずれており、開口部19の形状と開口部20の形状とは、照明光学系10の光軸Oに関して対称である。また、開口部29の形成先は、光軸Oの近傍である。よって、光束選択部材18の開口パターン(開口部19、20、29の全体)は、照明光学系10の光軸Oに関して対称となる。
この光束選択部材18は、回動機構24A(図1参照)により、照明光学系10の光軸Oの周りに回動可能である。
なお、回動機構24Aには、例えば、光束選択部材18を保持し、かつ光軸Oの周りに回転可能な不図示の保持部材と、その保持部材の周りに形成された不図示の第1の歯車と、第1の歯車に噛み合う不図示の第2の歯車と、第2の歯車に連結された不図示のモータ(回転モータ)とが備えられる。このモータが駆動されると第2の歯車が回転し、その回転力が第1の歯車へと伝達され、光束選択部材18が光軸Oの周りに回転する。
開口部19、20、29の配列方向が第1方向V1となるように光束選択部材18の回動角が設定されると、光束選択部材19を通過できるのは、第1〜第3回折光束群のうち第1回折光束群のみ(集光点14g、14a、14dのみ)に制限される。
また、開口部19、20、29の配列方向が第2方向V2となるように光束選択部材18の回動角が設定されると、光束選択部材19を通過できるのは、第1〜第3回折光束群のうち第2回折光束群のみ(集光点14f、14a、14cのみ)に制限される。
また、開口部19、20、29の配列方向が第3方向V3となるように光束選択部材18の回動角が設定されると、光束選択部材19を通過できるのは、第1〜第3回折光束群のうち第3回折光束群のみ(集光点14e、14a、14bのみ)に制限される。
したがって、光束選択部材18を例えば60°の角度周期で2回だけ回動させれば、光束選択部材18によって選択される回折光束群の分岐方向を、第1方向V1、第2方向V2、第3方向V3の間で切り換えることができる。
なお、光束選択部材18における開口部19、20の各々の径方向の長さ(スリットの長手方向の長さ)は、光源波長の切り換え、又は、光源の多波長化に対処できるよう、十分な大きさを有している。なぜなら、回折格子13における回折角度は光源波長に依存するので、照明光学系10の光軸Oから集光点14b、14c、14d、14e、14f、14gまでの高さも光源波長に依存する。
因みに、光ファイバ11から射出するレーザ光の波長をλとおき、回折格子13の構造周期をPとおき、レンズ16の焦点距離をfcとおくと、光軸Oから集光点14b、14c、14d、14e、14f、14gまでの高さDは、D=fc×λ/Pで表される。
また、光束選択部材18における開口部19、20の各々の周方向の長さ(スリットの短手方向の長さ)は、十分に小さく抑えられているものとする。具体的に、開口部19、20の各々の周方向の長さは、光軸Oの周りの中心角が30°である扇状領域の周方向の長さより小さく抑えられている(なお、ここでいう「30°」とは、光束選択部材18の回動角度周期60°の半分のことである。)。
このような開口パターンの光束選択部材18を回動させ、選択される回折光束群の分岐方向を第1方向V1、第2方向V2、第3方向V3の間で切り換えたならば、その切り換えの途中で、第1〜第3回折光束群の全ての±1次回折光束(集光点14b〜14g)が同時に遮光されるというタイミングが発現する。
以下、選択される回折光束群の分岐方向を切り換えるために必要な光束選択部材18の最小の回動角(=60°)を、1角度周期とする。
また、以下では、光束選択部材18を1角度周期(=60°)だけ回動させるために必要な時間を、80msec程度とする。この時間は、撮像素子の撮像時間(30msec、60msecなど)と比較して必ずしも短くない。そこで本実施形態では、後述するとおり光束選択部材18の回動パターンと撮像素子の駆動パターンとを最適化し、画像取得の効率化を図る。
次に、1/2波長板17及び光束選択部材18の機能を詳しく説明する。
図4は、1/2波長板17の機能を説明する図であり、図5は、光束選択部材18の機能を説明する図である。
図4に示すとおり、1/2波長板17は、入射した各次数の回折光束の偏光方向を設定する波長板であって、図5に示すとおり、光束選択部材18は、第1〜第3回折光束群のうち何れか1群を選択的に通過させるマスクである。
そして、これらの1/2波長板17及び光束選択部材18は、回動機構24A(図1参照)によって光軸Oの周りに回動可能である。回動機構24Aは、光束選択部材18を回動させることにより、選択される光束群を第1〜第3回折光束群の間で切り替えると共に、光束選択部材18に連動して1/2波長板17を光軸Oの周りに回動させることにより、選択された光束群が標本5に入射するときの偏光方向をS偏光に保つ。
つまり、1/2波長板17及び光束選択部材18は、干渉縞の状態を保ちつつ、干渉縞の方向を切り替える。以下、縞の状態を保つための条件を具体的に説明する。
先ず、1/2波長板17の進相軸の向きは、選択される光束群の分岐方向(第1方向V1〜第3方向V3のいずれか)と、その光束群の偏光方向とが垂直となるように設定される必要がある。なお、ここでいう1/2波長板17の進相軸とは、その軸の方向に偏光した光が1/2波長板17を通過するときの位相遅延量が最小となるような方向のことである。
ここで、図4(A)に示すように、1/2波長板17の進相軸の方向が偏光板23の軸の方向と平行になるときの1/2波長板17の回動角を、1/2波長板17の回動角の基準とする(以下、「第1の基準位置」と称する。)。
また、光束選択部材18の光束選択方向(=選択される±1次回折光束の分岐方向)が、偏光板23の軸の方向と垂直になるときの光束選択部材18の回動角を、光束選択部材18の回動角の基準とする(以下、「第2の基準位置」と称する。)。
このとき、図4(B)に示すように、1/2波長板17の第1基準位置からの回動角は、光束選択部材18の第2基準位置からの回動角の2分の1に制御されるべきである。すなわち、1/2波長板17の第1基準位置からの回動角がθ/2であるときには、光束選択部材18の第2基準位置からの回動角は、θに設定されるべきである。
そこで、回動機構24A(図1参照)は、第1回折光束群(分岐方向は第1方向V1)を選択するために、図5(A)に示すように、光束選択部材18の光束選択方向を第2の基準位置から右方に回動角θ1だけ回動させた場合、1/2波長板17の進相軸の方向を、第1の基準位置から右方に回動角θ1/2だけ回動させる。
このとき、1/2波長板17を通過する前における回折光束群の偏光方向は、図5(A)中に破線両矢印で示すとおり、偏光板23の軸の方向と平行となっているのに対し、1/2波長板17を通過した後における回折光束群の偏光方向は、右方に回動角θ1だけ回動するので、選択された回折光束群の偏光方向は、図5(A)に実線両矢印で示すとおり、それら回折光束群の分岐方向(第1方向V1)に対して垂直となる。
換言すると、1/2波長板17の進相軸の方向は、光束選択部材18により選択される回折光束群の分岐方向(=第1方向V1)に応じた方向であって、1/2波長板17へ入射する回折光束群が有していた偏光方向(=偏光板23の軸方向)と、1/2波長板17から射出する回折光束群が有するべき偏光方向(=第1方向V1に垂直)とが成す角度の2等分線方向に、設定される。
また、回動機構24A(図1参照)は、第2回折光束群(分岐方向は第2方向V2)を選択するために、図5(B)に示すように、光束選択部材18の光束選択方向を第2の基準位置から右方に回動角θ2だけ回動させた場合、1/2波長板17の進相軸の方向を、第1の基準位置から右方に回動角θ2/2だけ回動させる。
このとき、1/2波長板17を通過する前における回折光束群の偏光方向は、図5(B)中に破線両矢線で示すとおり、偏光板23の軸の方向と平行となっているのに対し、1/2波長板17を通過した後における回折光束群の偏光方向は、右方に回動角θ2だけ回動するので、選択された回折光束群の偏光方向は、図5(B)に実線両矢印で示すとおり、それら回折光束群の分岐方向(第2方向V2)に対して垂直となる。
換言すると、1/2波長板17の進相軸の方向は、光束選択部材18により選択される回折光束群の分岐方向(=第2方向V2)に応じた方向であって、1/2波長板17へ入射する回折光束群が有していた偏光方向(=偏光板23の軸方向)と、1/2波長板17から射出する回折光束群が有するべき偏光方向(=第2方向V2に垂直)とが成す角度の2等分線方向に、設定される。
また、回動機構24A(図1参照)は、第3回折光束群(分岐方向は第3方向V3)を選択するために、図5(C)に示すように、光束選択部材18の光束選択方向を第2の基準位置から左方(標本側から見て。以下同じ)に回動角θ3だけ回動させた場合、1/2波長板17の進相軸の方向を、第1の基準位置から左方に回動角θ3/2だけ回動させる。
このとき、1/2波長板17を通過する前における回折光束群の偏光方向は、図5(C)中に破線両矢線で示すとおり、偏光板23の軸の方向と平行となっているのに対し、1/2波長板17を通過した後における回折光束群の偏光方向は、左方に回動角θ3だけ回動するので、選択された回折光束群の偏光方向は、図5(C)に実両矢印で示すとおり、それら回折光束群の分岐方向(第3方向V3)に対して垂直となる。
換言すると、1/2波長板17の進相軸の方向は、光束選択部材18により選択される回折光束群の分岐方向(=第3方向V3)に応じた方向であって、1/2波長板17へ入射する回折光束群が有していた偏光方向(=偏光板23の軸方向)と、1/2波長板17から射出する回折光束群が有するべき偏光方向(=第3方向V3に垂直)とが成す角度の2等分線方向に、設定される。
したがって、回動機構24Aは、1/2波長板17及び光束選択部材18をギア比2:1で連動すればよい。
図6は、以上説明した1/2波長板17及び光束選択部24の機能を説明する図である。なお、図6において円形枠で囲まれた両矢線は、光束の偏光方向を示し、四角枠で囲まれた両矢線は、光学素子の軸方向を示している。なお、図6では、0次回折光束がオフされた状態を想定した。
なお、以上の説明では、標本5に入射する回折光束群をS偏光に保つために回動可能な1/2波長板17を使用したが、回動可能な1/2波長板17の代わりに固定配置された液晶素子を使用し、その液晶素子を1/2波長板17として機能させてもよい。液晶素子の配向を電気的に制御すれば、液晶素子の屈折率異方性を制御することができるので、1/2波長板としての進相軸を光軸Oの周りに回動させることができる。因みに、標本5に入射する回折光束群をS偏光に保つための方法は他にもある(後述)。
また、図7に示すように、光束選択部材18の外周部には、複数の(図7に示す例では6個の)切り欠き21が形成されており、回動機構24A(図1参照)には、これらの切り欠き21を検出するためのタイミングセンサ22が備えられている。これによって、回動機構24Aは、光束選択部18の回動角、ひいては1/2波長板17の回動角を検知することができる。なお、このような切り欠き及びタイミングセンサは、0次光シャッタ200にも設けられる。
次に、並進機構15A(図1参照)の機能を詳しく説明する。
図8は、並進機構15Aの機能を説明する図である。
先ず、後述する復調演算には、例えば、同一の標本5かつ同一方向の干渉縞に関する変調画像であって、干渉縞の位相の異なる2枚以上の変調画像が使用される可能性がある。なぜなら、構造化照明顕微鏡装置1が生成する変調画像には、標本5の蛍光領域の構造のうち、干渉縞により空間周波数の変調された構造情報である0次変調成分、+1次変調成分、−1次変調成分が含まれており、それら3つの未知パラメータを復調演算で既知とする必要があるからである。
そこで、並進機構15Aは、干渉縞の位相をシフトするために、図8(A)に示すように、照明光学系10の光軸Oと垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の全てに対して非垂直な方向(x方向)にかけて回折格子13をシフトさせる。
但し、干渉縞の位相を所望のシフト量φだけシフトさせるのに必要な回折格子13のシフト量Lは、光束選択部24による光束選択方向が第1方向V1であるときと、第2方向V2であるときと、第3方向V3であるときとでは、同じとは限らない。
図8(B)に示すとおり、回折格子13の第1方向V1、第2方向V2、第3方向V3の各々の構造周期をPとおき、回折格子13のシフト方向(x方向)と第1方向V1とのなす角をθ1とおき、回折格子13のシフト方向(x方向)と第2方向V2とのなす角をθ2とおき、回折格子13のシフト方向(x方向)と第3方向V3とのなす角をθ3とおくと、光束選択方向が第1方向V1であるときに必要な回折格子13のx方向のシフト量L1は、L1=φ×P/(a×4π×|cosθ1|)で表され、光束選択方向が第2方向V2であるときに必要な回折格子13のx方向のシフト量L2は、L2=φ×P/(a×4π×|cosθ2|)で表され、光束選択方向が第3方向V3であるときに必要な回折格子13のx方向のシフト量L3は、L3=φ×P/(a×4π×|cosθ3|)で表される。
すなわち、干渉縞の位相シフト量を所望の値φとするために必要な回折格子13のx方向のシフト量Lは、光束選択方向(第1方向V1、第2方向V2、第3方向V3の何れか)とx方向とのなす角θにより式(1)のとおり表される。
L=φ×P/(a×4π×|cosθ|) …(1)
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子13のx方向のシフト量Lは、P/(a×2×|cosθ|)となる。これは、回折格子13の半周期に相当する量である。つまり、回折格子13を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる構造化照明光の縞周期は、回折格子13の構造周期の2倍に相当する。)。
以下、並進機構15Aが干渉縞の位相を1角度周期(例えばπ)だけシフトさせるために必要な時間は撮像素子の撮像時間(30msec、60msecなど)と比較して十分に短い(例えば5msec程度)と仮定する。
但し、a=1(M=1、2のとき)、a=2(M=3のとき)である。Mは、回折格子13が有する周期構造の方向数である。よって、本実施形態では、M=3、a=2である。l
[第1実施形態の2D−SIMモード]
次に、本実施形態の2D−SIMモードを詳しく説明する。
2D−SIMモードでは、0次回折光束が0次光シャッタ200によって基本的にオフされ、干渉縞に寄与する回折光束は±1次回折光束の2光束のみに制限される。このような2光束による干渉縞は、標本5の深さ方向にも超解像効果を得ることはできないが、標本5を全反射観察する(TIRF−SIMモードで観察する)ことができる。
さて、本実施形態の2D−SIMモードでは、画像記憶・演算装置40の復調演算として、後述する第1.7節の復調演算が採用される。この復調演算には、干渉縞の方向の異なる3枚の変調画像と1枚の無変調画像との合計4枚の画像が使用される。無変調画像とは、一様な照度の照明下で取得される画像のことである。
そこで、本実施形態の2D−SIMモードでは、光束選択部材18の回動角を60°の角度周期で2回だけ切り換え、その回動前後の3つの回動角の各々で1枚ずつ変調画像を撮像することで、光束選択部材18の回動角を最小限に抑える。
さらに、本実施形態の2D−SIMモードでは、光束選択部材18の回動途中に無変調画像を撮像することで、光束選択部材18の回動に要する時間(ここでは約80msec)を有効利用する。
図9は、第1実施形態の2D−SIMモードにおける制御装置39のタイミングチャートである。以下、各フレーム周期における制御装置39の動作を説明する。なお、ここではレーザユニット100の波長が波長λ1のみ(単色)に設定され、撮像素子として第1撮像素子351のみが駆動され、レーザユニット100の出力がパワー不変の連続波に設定されたと仮定する。この場合、第1撮像素子351が生成する変調画像又は無変調画像の明るさ(輝度)は、第1撮像素子351の電荷蓄積時間によって制御される。また、ここでは撮像素子351のフレーム周期が80msecに設定されたと仮定する。
第1フレーム周期:第1フレーム周期の開始に先立ち、制御装置39は、回動機構200Aを介して0次光シャッタ200を制御することにより、0次回折光束をオフすると共に(図9(6A))、回動機構24Aを介して光束選択部材18を制御することにより、干渉縞の方向を第3方向V3にセットする(図9(5A))。図9では、この状態における光束選択部材18の回動角θをゼロとおいた。よって、第1フレーム周期の開始時点では、光束選択部24の開口パターンは、図9(1A)のとおりとなり、標本5の照明パターンは、図9(2A)のとおりとなる。第1フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図9(3A))及び電荷読出(図9(4A))を行い、1枚目の変調画像を取得する。
第2フレーム周期:第2フレーム周期の開始に先立ち、制御装置39は、回動機構200Aを介して0次光シャッタ200を制御することにより、0次回折光束をオンすると共に(図9(6B))、回動機構24Aを介して光束選択部材18を制御することにより、光束選択部材18の回動を開始する(図9(5B))。その後、制御装置39は、回動機構24Aによる光束選択部材18の回動角が半角度周期(30°)ほど変化したタイミングで、第2フレーム周期を開始する。よって、第2フレーム周期の開始時点では、光束選択部24の開口パターンは、図9(1B)のとおりとなり、標本5の照明パターンは、図9(2B)のとおりとなる。第2フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図9(3B))及び電荷読出(図9(4B))を行い、1枚の無変調画像を取得する。
第3フレーム周期:第3フレーム周期の開始に先立ち、制御装置39は、回動機構200Aを介して0次光シャッタ200を制御することにより、0次回折光束をオフする(図9(6C))。そして、制御装置39は、回動機構24Aによる光束選択部材18の1角度周期分(60°)の回動が完了したタイミング(図9(5C))で、第3フレーム周期を開始する。第3フレーム周期の開始時点では、光束選択部24の開口パターンは、図9(1C)のとおりとなり、標本5の照明パターンは、図9(2C)のとおりとなる。第3フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図9(3C))及び電荷読出(図9(4C))を行い、2枚目の変調画像を取得する。
第4フレーム周期:第4フレーム周期の開始に先立ち、制御装置39は、回動機構24Aを介して光束選択部材18を制御することにより、光束選択部材18の回動を開始する(図9(5D))。その後、制御装置39は、回動機構24Aによる光束選択部材18の回動角が半角度周期(30°)ほど変化したタイミングで、第4フレーム周期を開始する。第4フレーム周期の開始時点では、光束選択部24の開口パターンは、図9(1D)のとおりとなり、標本5の照明パターンは、図9(2D)のとおりとなる。第4フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図9(3D))及び電荷読出(図9(4D))を休止する。
第5フレーム周期:制御装置39は、回動機構24Aによる光束選択部材18の1角度周期分(60°)の回動が完了したタイミング(図9(5E))で、第5フレーム周期を開始する。第5フレーム周期の開始時点では、光束選択部24の開口パターンは、図9(1E)のとおりとなり、標本5の照明パターンは、図9(2E)のとおりとなる。第5フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図9(3E))及び電荷読出(図9(4E))を行い、3枚目の変調画像を取得する(以上、第5フレーム周期)。
なお、以上の2D−SIMモードでは、変調画像の撮像時に標本5へ入射する光束は2光束(±1次回折光束)であるのに対して、無変調画像の撮像時に標本5へ入射する光束は1光束(0次回折光束)のみである。
このため、変調画像の撮像時における第1撮像素子351の電荷蓄積時間と、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間とを共通にすると、変調画像と無変調画像との少なくとも一方の輝度範囲が適正範囲から外れる虞がある。
そこで、本実施形態の2D−SIMモードにおける制御装置39は、変調画像の輝度範囲と無変調画像の輝度範囲とが同等の範囲に収まるよう、変調画像の撮像時における電荷蓄積時間と、無変調画像の撮像時における電荷蓄積時間との関係を、適切な関係に設定する。
具体的には、無変調画像の撮像時における電荷蓄積時間(図9(3B))は、変調画像の撮像時における電荷蓄積時間(図9(3A)、(3C)、(3E))よりも長い値に設定される。
さらに、本実施形態の2D−SIMモードにおける制御装置39は、無変調画像の電荷蓄積時間と変調画像の電荷蓄積時間とのバランスを、使用波長ごとに設定する。なぜなら、回折格子13の回折効率は使用波長に依存するので、+1次回折光束の強度と−1次回折光束の強度と0次回折光束の強度との比も使用波長に依存するからである。
例えば、図1に示した2つの撮像素子(第1撮像素子351、第2撮像素子352)の一方を長波長観察に使用し、他方を短波長観察に使用する場合は、第1撮像素子351の前記バランスと、第2撮像素子352の前記バランスとは、個別に設定される。
[第1実施形態の2D−SIMモードの補足]
なお、本実施形態の2D−SIMモードでは、無変調画像及び変調画像の明るさ(輝度)を、撮像素子の電荷蓄積時間のみによって制御したが、レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせによって制御してもよいことは言うまでもない。
何れにせよ、変調画像の撮像時における標本像強度Isiと、無変調画像の撮像時における標本像強度Iflatと、変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tsiと、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tflatとは、以下の式(A)を満たす。
0.5<(Iflat×Tflat)/(Isi×Tsi)≦2 …(A)
更に望ましくは、以下の式(B)を満たす。
(Iflat×Tflat)/(Isi×Tsi)=1 …(B)
また、本実施形態の2D−SIMモードでは、第2フレーム周期で無変調画像を撮像し、第4フレーム周期の撮像を休止したが、第2フレーム周期の動作と第4フレーム周期の動作とを入れ替えても構わない。
また、本実施形態の2D−SIMモードでは、第4フレーム周期で撮像を休止したが、第4フレーム周期で無変調画像を撮像し、その無変調画像を有効利用してもよい(図10参照)。
但し、図10の例では、第4フレーム周期の撮像時にも第2フレーム周期の撮像時と同様に0次回折光束がオンされる(図10(6D))。
また、図10の例では、無変調画像の撮像枚数が2枚になるので、無変調画像1枚当たりの電荷蓄積時間(図10(3B)、(3D))を、図9の例における電荷蓄積時間(図9(3B))の半分に抑えることができる。
また、図10の例が採用された場合、画像記憶・演算装置40は、第2フレーム周期で撮像された無変調画像と第4フレーム周期で撮像された無変調画像とを加算することにより、1枚の無変調画像を作成する。
[第1実施形態の3D−SIMモード]
次に、本実施形態の3D−SIMモードを詳しく説明する。
3D−SIMモードでは、0次回折光束が0次光シャッタ200によって基本的にオンされ、干渉縞に寄与する回折光束は±1次回折光束及び0次回折光束の3光束に設定される。このような3光束による干渉縞は、標本5を全反射観察する(TIRF−SIMモードで観察する)ことはできないが、標本5の深さ方向にも超解像効果を得ることができる。
さて、本実施形態の3D−SIMモードでは、画像記憶・演算装置40の復調演算として、後述する第2.5節の復調演算が採用される。この復調演算には、干渉縞の方向及び位相の組み合わせの異なる6枚の変調画像と1枚の無変調画像との合計7枚の画像が使用される。
そこで、本実施形態の3D−SIMモードでは、光束選択部材18の回動角を60°の角度周期で2回だけ切り換え、その回動前後の3つの回動角の各々で2枚ずつ変調画像を撮像することで、光束選択部材18の回動角を最小限に抑える。
さらに、本実施形態の3D−SIMモードでは、光束選択部材18の回動途中に無変調画像を撮像することで、その回動に要する時間(ここでは80msec)を有効利用する。
図11は、第1実施形態の3D−SIMモードにおける制御装置39のタイミングチャートである。以下、各フレーム周期における制御装置39の動作を説明する。なお、ここではレーザユニット100の波長が波長λ1のみ(単色)に設定され、撮像素子として第1撮像素子351のみが駆動され、レーザユニット100の出力がパワー不変の連続波に設定されたと仮定する。この場合、第1撮像素子351が生成する変調画像又は無変調画像の明るさ(輝度)は、第1撮像素子351の電荷蓄積時間によって制御される。また、ここでは撮像素子351のフレーム周期が80msecに設定されたと仮定する。
第1フレーム周期:第1フレーム周期の開始に先立ち、制御装置39は、回動機構200Aを介して0次光シャッタ200を制御することにより、0次回折光束をオンすると共に(図11(6A))、回動機構24Aを介して光束選択部材18を制御することにより、干渉縞の方向を第3方向V3にセットする(図11(5A))。図11では、この状態における光束選択部材18の回動角θをゼロとおいた。よって、第1フレーム周期の開始時点では、光束選択部24の開口パターンは、図11(1A)のとおりとなり、標本5の照明パターンは、図11(2A)のとおりとなる。第1フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3A))及び電荷読出(図11(4A))を行い、1枚目の変調画像を取得する。
第2フレーム周期:第2フレーム周期の開始に先立ち、制御装置39は、並進機構15Aを介して回折格子13をx方向へ所定量シフトさせることにより、干渉縞の位相をπだけシフトさせる。なお、位相をπだけシフトさせるために必要な時間は、フレーム周期(80msec)よりも十分に短いものとする。よって、第2フレーム周期の開始時点では、標本5の照明パターンは、図11(2A’)のとおりとなる。第2フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3A’))及び電荷読出(図11(4A’))を行い、2枚目の変調画像を取得する。
第3フレーム周期:第3フレーム周期の開始に先立ち、制御装置39は、回動機構24Aを介して光束選択部材18を制御することにより、光束選択部材18の回動を開始する(図11(5B))。その後、制御装置39は、回動機構24Aによる光束選択部材18の回動角が半角度周期(30°)ほど変化したタイミングで、第3フレーム周期を開始する。よって、第3フレーム周期の開始時点では、光束選択部24の開口パターンは、図11(1B)のとおりとなり、標本5の照明パターンは、図11(2B)のとおりとなる。第3フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3B))及び電荷読出(図11(4B))を行い、1枚の無変調画像を取得する。
第4フレーム周期:制御装置39は、回動機構24Aによる光束選択部材18の1角度周期分(60°)の回動が完了したタイミング(図11(5C))で、第4フレーム周期を開始する。第4フレーム周期の開始時点では、光束選択部24の開口パターンは、図11(1C)のとおりとなり、標本5の照明パターンは、図11(2C)のとおりとなる。第4フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3C))及び電荷読出(図11(4C))を行い、3枚目の変調画像を取得する。
第5フレーム周期:第5フレーム周期の開始に先立ち、制御装置39は、並進機構15Aを介して回折格子13をx方向へ所定量シフトさせることにより、干渉縞の位相をπだけシフトさせる。よって、第5フレーム周期の開始時点では、標本5の照明パターンは、図11(2C’)のとおりとなる。第5フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3C’))及び電荷読出(図11(4C’))を行い、4枚目の変調画像を取得する。
第6フレーム周期:第6フレーム周期の開始に先立ち、制御装置39は、回動機構24Aを介して光束選択部材18を制御することにより、光束選択部材18の回動を開始する(図11(5D))。その後、制御装置39は、回動機構24Aによる光束選択部材18の回動角が半角度周期(30°)ほど変化したタイミングで、第6フレーム周期を開始する。第6フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3D))及び電荷読出(図11(4D))を休止する。
第7フレーム周期:制御装置39は、回動機構24Aによる光束選択部材18の1角度周期分(60°)の回動が完了したタイミング(図11(5E))で、第7フレーム周期を開始する。第7フレーム周期の開始時点では、光束選択部24の開口パターンは、図11(1E)のとおりとなり、標本5の照明パターンは、図11(2E)のとおりとなる。第7フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3E))及び電荷読出(図11(4E))を行い、5枚目の変調画像を取得する。
第8フレーム周期:第8フレーム周期の開始に先立ち、制御装置39は、並進機構15Aを介して回折格子13をx方向へ所定量シフトさせることにより、干渉縞の位相をπだけシフトさせる。よって、第8フレーム周期の開始時点では、標本5の照明パターンは、図11(2E’)のとおりとなる。第8フレーム周期が開始されると、制御装置39は、第1撮像素子351の電荷蓄積(図11(3E’))及び電荷読出(図11(4E’))を行い、6枚目の変調画像を取得する(以上、第8フレーム周期)。
なお、以上の3D−SIMモードでは、変調画像の撮像時に標本5へ入射する光束は3光束(±1次回折光束及び0次回折光束)であるのに対して、無変調画像の撮像時に標本5へ入射する光束は1光束(0次回折光束)のみである。
このため、変調画像の撮像時における第1撮像素子351の電荷蓄積時間と、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間とを共通にすると、変調画像と無変調画像との少なくとも一方の輝度範囲が適正範囲から外れる虞がある。
そこで、本実施形態の3D−SIMモードにおける制御装置39は、変調画像の輝度範囲と無変調画像の輝度範囲とが同等の範囲に収まるよう、変調画像の撮像時における電荷蓄積時間と、無変調画像の撮像時における電荷蓄積時間との関係を、適切な関係に設定する。
具体的には、無変調画像の撮像時における電荷蓄積時間(図11(3B))は、変調画像の撮像時における電荷蓄積時間(図11(3A)、(3A’)、(3C)、(3C’)、3(E)、3(E’))よりも長い値に設定される。
さらに、本実施形態の3D−SIMモードにおける制御装置39は、無変調画像の電荷蓄積時間と変調画像の電荷蓄積時間とのバランスを、使用波長ごとに設定する。なぜなら、回折格子13の回折効率は使用波長に依存するので、+1次回折光束の強度と−1次回折光束の強度と0次回折光束の強度との比も使用波長に依存するからである。
例えば、図1に示した2つの撮像素子(第1撮像素子351、第2撮像素子352)の一方を長波長観察に使用し、他方を短波長観察に使用する場合は、第1撮像素子351の前記バランスと、第2撮像素子352の前記バランスとは、個別に設定される。
[第1実施形態の3D−SIMモードの補足]
なお、第1実施形態の3D−SIMモードでは、無変調画像及び変調画像の明るさ(輝度)を、撮像素子の電荷蓄積時間のみによって制御したが、レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせによって制御してもよいことは言うまでもない。
何れにせよ、変調画像の撮像時における標本像強度Isiと、無変調画像の撮像時における標本像強度Iflatと、変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tsiと、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tflatとは、式(A)を満たす。
更に望ましくは、式(B)を満たす。
また、本実施形態の3D−SIMモードでは、第3フレーム周期で無変調画像を撮像し、第6フレーム周期の撮像を休止したが、第3フレーム周期の動作と第6フレーム周期の動作とを入れ替えても構わない。
また、本実施形態の3D−SIMモードでは、第6フレーム周期で撮像を休止したが、第6フレーム周期で無変調画像を撮像し、その無変調画像を有効利用してもよい(図12参照)。
図12の例では、無変調画像の撮像枚数が2枚になるので、無変調画像1枚当たりの電荷蓄積時間(図12(3B)、(3D))を、図11の例における電荷蓄積時間(図11(3B))の半分に抑えることができる。
また、図12の例が採用された場合、画像記憶・演算装置40は、第3フレーム周期で撮像された無変調画像と第6フレーム周期で撮像された無変調画像とを加算することにより、1枚の無変調画像を作成する。
[第2実施形態]
以下、第2実施形態として第1実施形態の変形例を説明する。ここでは、第1実施形態との相違点のみを説明する。
第1実施形態との相違点は、無変調画像の撮像時に使用される光束を、0次回折光束ではなく±1次回折光束の一方とした点にある。
そのために本実施形態では、光束選択部材18の代わりに光束選択部材18’が使用され、制御装置39の動作も一部変更される。
図13は、本実施形態の光束選択部材18’を説明する図である。図13に示すとおり、光束選択部材18’は、第1実施形態の光束選択部材18において、スリット状の開口部19の代わりに、部分扇状の開口部19’を形成したものである。
この開口部19’は、開口部19と同様、第1〜第3回折光束群のうち、何れか1つの光束群に属する+1次回折光束の光路をカバーするものであるが、開口部19’の周方向の長さは、開口部19の周方向の長さよりも大きく確保されている。
具体的に、開口部19’の周方向の長さは、光軸O周りの中心角が60°である扇状領域の周方向の長さと同等に設定されている(なお、ここでいう「60°」とは、光束選択部材18’の回動角度周期と同じ角度のことである。)。
また、開口部19’の光軸O周りの形成位置は、開口部20の光軸O周りの形成位置に対して反時計周りに180°+30°程度だけ意図的にずれている。つまり、開口部19’を2等分する光軸Oを通る2等分線は、開口部20を2等分する光軸Oを通る2等分線に対して反時計周りに180°+30°程度、ずれている。
よって、光束選択部材18’の開口パターン(開口部19’、20、29の全体)は、照明光学系10の光軸Oに関して非対称となる。
このような開口パターンの光束選択部材18’を1角度周期(=60°)だけ回動させ、選択される回折光束群の分岐方向を切り換えたならば、その切り換えの途中で、第1〜第3回折光束群の各群の±1次回折光束のうち何れか1光束のみが開放されるというタイミングが発現する。
[第2実施形態の2D−SIMモード]
次に、本実施形態の2D−SIMモードを詳しく説明する。
本実施形態の2D−SIMモードでも、第1実施形態の2D−SIMモードと同様、復調演算として後述する第1.7節の復調演算が採用される。
そこで、本実施形態の2D−SIMモードでも、第1実施形態の2D−SIMモードと同様、光束選択部材18’の回動角を60°の角度周期で2回だけ切り換え、その回動前後の3つの回動角の各々で1枚ずつ変調画像を取得することで、光束選択部材18’の回動角を最小限に抑える。
さらに、本実施形態の2D−SIMモードでも、光束選択部材18’の回動途中に無変調画像の取得を行うことで、光束選択部材18’の回動に要する時間(ここでは80msec)を有効利用する。
図14は、第2実施形態の2D−SIMモードにおける制御装置39のタイミングチャートである。
本実施形態の2D−SIMモードにおける光束選択部材18’の回動パターン(図14(5A)〜(5E))は、第1実施形態の2D−SIMモードにおける光束選択部材18’の回動パターン(図9(5A)〜(5E))と同じであり、本実施形態の2D−SIMモードにおける第1撮像素子351の駆動パターン(図14(3A)〜(3E)、(4A)〜(4E))は、第1実施形態の2D−SIMモードにおける第1撮像素子351の駆動パターン(図9(3A)〜(3E)、(4A)〜(4E)を参照)と同じに設定される。
但し、本実施形態では、光束選択部材18’の開口パターンが図13のとおりに設定されたので、2D−SIMモードにおける0次回折光束のオン/オフパターンは、「常時オフ」に設定される(図14(6A)〜(6E)参照)。
したがって、本実施形態の2D−SIMモードでは、第1実施形態の2D−SIMモードと同様の効果が得られるだけでなく、0次光シャッタ200の駆動パターンを簡略化できるという付加的な効果も得られる。
[第2実施形態の2D−SIMモードの補足]
なお、本実施形態の2D−SIMモードでは、無変調画像及び変調画像の明るさ(輝度)を、撮像素子の電荷蓄積時間のみによって制御したが、レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせによって制御してもよいことは言うまでもない。
何れにせよ、変調画像の撮像時における標本像強度Isiと、無変調画像の撮像時における標本像強度Iflatと、変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tsiと、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tflatとは、式(A)を満たす。更に望ましくは、式(B)を満たす。
また、本実施形態の2D−SIMモードでは、第2フレーム周期で無変調画像を撮像し、第4フレーム周期の撮像を休止したが、第2フレーム周期の動作と第4フレーム周期の動作とを入れ替えても構わない。
また、本実施形態の2D−SIMモードでは、第4フレーム周期で撮像を休止したが、第4フレーム周期で無変調画像を撮像し、その無変調画像を有効利用してもよい(図15参照)。
なお、図15の例では、無変調画像の撮像枚数が2枚になるので、無変調画像1枚当たりの電荷蓄積時間(図15(3B)、(3D))を図14の電荷蓄積時間(図14(3B))の半分に抑えることができる。
また、図15の例が採用された場合、画像記憶・演算装置40は、第2フレーム周期で撮像された無変調画像と第4フレーム周期で撮像された無変調画像とを加算することにより、1枚の無変調画像を作成する。
[第2実施形態の3D−SIMモード]
次に、本実施形態の3D−SIMモードを詳しく説明する。
本実施形態の3D−SIMモードでも、第1実施形態の3D−SIMモードと同様、復調演算として後述する第2.5節の復調演算が採用される。
そこで、本実施形態の3D−SIMモードでも、第1実施形態の3D−SIMモードと同様、光束選択部材18’の回動角を60°の角度周期で2回だけ切り換え、その回動前後の3つの回動角の各々で2枚ずつ変調画像を取得することで、光束選択部材18’の回動角を最小限に抑える。
さらに、本実施形態の3D−SIMモードでも、光束選択部材18’の回動途中に無変調画像の取得を行うことで、光束選択部材18’の回動に要する時間(ここでは80msec)を有効利用する。
図16は、第2実施形態の3D−SIMモードにおける制御装置39のタイミングチャートである。
本実施形態の3D−SIMモードにおける光束選択部材18’の回動パターン(図16(1A)〜(1E)を参照)は、第1実施形態の3D−SIMモードにおける光束選択部材18の回動パターン(図11(1A)〜(1E)を参照)と同じであり、本実施形態の3D−SIMモードにおける第1撮像素子351の駆動パターン(図16(3A)〜(3E’)、(4A)〜(4E’))は、第1実施形態の3D−SIMモードにおける第1撮像素子351の駆動パターン(図11(3A)〜(3E’)、(4A)〜(4E’))と同じに設定される。
但し、本実施形態では、光束選択部材18’の開口パターンが図13のとおりに設定されたので、3D−SIMモードでは、変調画像の撮像時(第1フレーム周期、第2フレーム周期、第4フレーム周期、第5フレーム周期、第7フレーム周期、第8フレーム周期の撮像時)に0次回折光束をオンし、かつ、無変調画像の撮像時(第3フレーム周期の撮像時)に0次回折光束をオフする必要がある。
[第2実施形態の3D−SIMモードの補足]
なお、本実施形態の3D−SIMモードでは、無変調画像及び変調画像の明るさ(輝度)を、撮像素子の電荷蓄積時間のみによって制御したが、レーザパワー、レーザ照射時間、電荷蓄積時間の組み合わせによって制御してもよいことは言うまでもない。
何れにせよ、変調画像の撮像時における標本像強度Isiと、無変調画像の撮像時における標本像強度Iflatと、変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tsiと、無変調画像の撮像時における第1撮像素子351の電荷蓄積時間Tflatとは、式(A)を満たす。更に望ましくは、式(B)を満たす。
また、本実施形態の3D−SIMモードでは、第3フレーム周期で無変調画像を撮像し、第6フレーム周期の撮像を休止したが、第3フレーム周期の動作と、第6フレーム周期の動作とを入れ替えても構わない。
また、本実施形態の3D−SIMモードでは、第6フレーム周期で撮像を休止したが、第6フレーム周期で無変調画像を撮像し、その無変調画像を有効利用してもよい(図17参照)。
但し、図17の例では、第6フレーム周期の撮像時にも、第3フレーム周期の撮像時と同様に0次回折光束がオフされる。
また、図17の例では、無変調画像の撮像枚数が2枚になるので、無変調画像1枚当たりの電荷蓄積時間(図17(3B)、(3D))を図16の例における電荷蓄積時間(図16(3B))の半分に抑えることができる。
また、図17の例が採用された場合、画像記憶・演算装置40は、第3フレーム周期で撮像された無変調画像と第6フレーム周期で撮像された無変調画像とを加算することにより、1枚の無変調画像を作成する。
[第2実施形態の変形例]
第2実施形態では、構造化照明顕微鏡装置(1)のモードを2D−SIMモードと3D−SIMモードとの間で切り換えることを想定したが、3D−SIMモードが不要である場合は、0次回折光束が不要となるので、0次光シャッタ200を省略すると共に、光束選択部材18’の代わりに図18に示すような光束選択部材18”を使用してもよい。
図18に示す光束選択部材18”は、光束選択部材18’において、開口部29を無くしたもの(開口部29を遮光部に置き換えたもの)である。
[各実施形態の補足]
なお、上述した各実施形態では、干渉縞の位相をシフトさせるために回折格子13をシフトさせたが、回折格子13をシフトさせる代わりに、±1次回折光束の光路長差を変化させてもよい。その場合は、例えば、+1次回折光束の光路と−1次回折光束の光路との少なくとも一方に対して位相板を挿脱させてもよい。
但し、位相板の厚さと位相シフト量との関係は、使用波長によって異なるので、厚さの異なる複数の位相板をターレットに装着し、それらの位相板を使用波長に応じて選択的に光路へ挿入してもよい。
また、上述した各実施形態において、無変調画像の撮像時には、偏光方向がどの方向に設定されても構わないし、撮像中に偏光方向が変化しても構わない。
また、上述した各実施形態では、光源波長の数を2としたが、3以上に拡張してもよい。
また、上述した各実施形態では、標本5に入射する±1次回折光束をS偏光に保つために、光軸Oの周りを回動可能な1/2波長板17を使用したが、固定配置された1/4波長板と光軸Oの周りを回動可能な1/4波長板とを使用してもよい。但し、その場合は、第1の基準位置を基準とした1/4波長板の回動角は、第2の基準位置を基準とした光束選択部材18の回動角と同じに設定される。
また、上述した各実施形態では、構造化照明顕微鏡装置1を2D−SIMモードで使用する際に、干渉縞に寄与する回折光束として、+1次回折光束と−1次回折光束との組み合わせを使用したが、他の組み合わせを使用してもよいことは言うまでもない。
また、上述した各実施形態では、構造化照明顕微鏡装置1を3D−SIMモードで使用する際に、干渉縞に寄与する回折光束として、+1次回折光束と−1次回折光束と0次回折光束との組み合わせを使用したが、他の組み合わせを使用してもよいことは言うまでもない。
また、上述した各実施形態の照明光学系10は、対物レンズ6による落射照明光学系で構成されたが、これに限られず、対物レンズ6に代えてコンデンサレンズによる透過・反射照明光学系で構成されてもよい。その場合、集光点が形成されるのは、コンデンサレンズの瞳面である。
また、上述した各実施形態では、干渉縞の方向を切り換えるために、複数の光束から所定数の光束を選択する部材(光束選択部材)を回動させたが、光束及び光束選択部材の少なくとも一方を回動させることで、同様の効果を得てもよい。因みに、光束を回動させるためには、例えば、光源からの射出光束を複数の光束に分岐する部材(回折格子など)を回動させればよい。
図19は、干渉縞の方向を切り換えるための回転対象を光束選択部材ではなく回折格子とした変形例を説明する図である。
図19(b)〜(d)は、3D−SIMモードの変形例であり、図19(f)〜(h)は、2D−SIMモードの変形例であり、図19(a)は、従来の2D−SIMモード、図19(e)は、従来の3D−SIMモードである。
以下、3D−SIMモードの変形例(b)、(c)、(d)、2D−SIMモードの変形例(f)、(g)、(h)を順に説明する。なお、ここでは、上述した第1実施形態又は第2実施形態との相違点を主として説明する。
<3D−SIMモードの変形例(b)>
この変形例(b)は、第1実施形態の変形例である。この変形例(b)で使用される回折格子は、光軸Oと垂直な面内の単一方向にかけて周期構造を有した1方向回折格子であって、この回折格子が瞳共役面に形成する集光点は、単一方向に配列された3つの集光点(+1次回折光束の集光点、0次回折光束の集光点、−1次回折光束の集光点)である。また、この変形例(b)で使用される光束選択部材18には、スリット状開口部として、第1方向に配列された1対の開口部20a、20bと、第1方向から60°ずれた第2方向に配列された1対の開口部20c、20dと、第2方向から60°ずれた第3方向に配列された1対の開口部20e、20fとが形成されている。そして、この変形例(b)では、0次回折光束を常時オンしたまま、光軸O周りの回折格子の回動角を60°の角度周期で切り換え、3つの集光点の全部が開放される角度1、2、3となったタイミング(A)、(C)、(E)の各々で変調画像を撮像し、3つの集光点のうち0次回折光束の集光点のみが開放される角度(角度1、2の間、又は角度2、3の間)となったタイミング(B)又は(D)で無変調画像を撮像する。この変形例(b)によると、図11の例と同様の効果を得ることができる。
<3D−SIMモードの変形例(c)>
この変形例(c)は、変形例(b)の変形例である。この変形例(c)では、0次回折光束を常時オンしたまま、光軸O周りの回折格子の回動角を60°の角度周期で切り換え、3つの集光点の全部が開放される角度1、2、3となったタイミング(A)、(C)、(E)の各々で変調画像を撮像し、3つの集光点のうち0次回折光束の集光点のみが開放される角度(角度1、2の間、及び角度2、3の間)となったタイミング(B)、(D)の各々で無変調画像を撮像する。この変形例(c)によると、図12の例と同様の効果を得ることができる。
<3D−SIMモードの変形例(d)>
この変形例(d)は、第2実施形態の変形例である。この変形例(d)で使用される回折格子は、光軸Oと垂直な面内の単一方向にかけて周期構造を有した1方向回折格子であって、この回折格子が瞳共役面に形成する集光点は、単一方向に配列された3つの集光点(+1次回折光束の集光点、0次回折光束の集光点、−1次回折光束の集光点)である。また、この変形例(d)で使用される光束選択部材18は、変形例(a)の光束選択部材18において、6つのスリット状開口部20a〜20fのうち何れか1つを部分扇状の開口部19’(図13参照)に置き換えたものである。この変形例では、光軸O周りの回折格子の回動角を60°の角度周期で切り換え、3つの集光点の全部が開放される角度1、2、3となったタイミング(A)、(C)、(E)で変調画像を撮像し、3つの集光点のうち1つの集光点のみが開放される角度(角度1、2の間、及び角度2、3の間)となったタイミング(B)、(D)で無変調画像を撮像する。但し、この変形例(d)では、0次回折光束は基本的にオンされるが、無変調画像の撮像時に開放される集光点の数が2以上とならないよう、適当なタイミングで0次回折光束がオフされる(図19(d)では、回折格子の回動角が角度1、2の間となったタイミング(B)で0次回折光束がオフされている。)。この変形例(d)によると、図17の例と同様の画像群を取得することができる。
<2D−SIMモードの変形例(f)>
この2D−SIMの変形例(f)は、3D−SIMの変形例(b)において、0次回折光束のオン/オフパターンを変えたものに相当する。具体的に、変形例(f)では、変調画像の撮像タイミング(A)、(C)、(E)の各々で0次回折光束がオフされ、無変調画像の撮像タイミング(B)又は(D)で0次回折光束がオンされる。この変形例(f)によると、図9の例と同様の画像群を取得することができる。
<2D−SIMの変形例(g)>
この2D−SIMの変形例(g)は、3D−SIMの変形例(c)において、0次回折光束のオン/オフパターンを変えたものに相当する。具体的に、変形例(g)では、変調画像の撮像タイミング(A)、(C)、(E)の各々で0次回折光束がオフされ、無変調画像の撮像タイミング(B)、(D)の各々で0次回折光束がオンされる。この変形例(g)によると、図10の例と同様の画像群を取得することができる。
<2D−SIMの変形例(h)>
この2D−SIMの変形例(h)は、3D−SIMの変形例(d)において、0次回折光束のオン/オフパターンを変えたものに相当する。具体的に、変形例(h)では、0次回折光束は基本的にオフされるが、無変調画像の撮像時に開放される集光点の数がゼロとならないよう、適当なタイミングで0次回折光束がオンされる(図19(h)では、回折格子の回動角が角度2、3の間となったタイミング(D)で0次回折光束がオンされている)。この変形例(h)によると、図15の例と同様の画像群を取得することができる。
また、上述した各実施形態では、複数の光束から一部の光束を選択する部材(光束選択部材)として、透過型のマスク部材(つまり、透過部からなる開口部と遮光部からなる非開口部とを有したマスク部材)を使用したが、反射型のマスク部材(つまり、反射部からなる開口部と遮光部からなる非開口部とを有したマスク部材)を使用してもよい。
また、透過型のマスク部材において、開口部の透過率、非開口部の透過率は、それぞれ100%、0%であることが望ましいが、開口部の透過率の方が非開口部の透過率よりも高ければ、それぞれ100%、0%から外れていてもよい。
また、反射型のマスク部材において、開口部の反射率、非開口部の反射率は、それぞれ100%、0%であることが望ましいが、開口部の反射率の方が非開口部の反射率よりも高ければ、それぞれ100%、0%から外れていてもよい。
[各実施形態の作用効果]
上述した何れかの実施形態の構造化照明顕微鏡装置1は、所定数の光束(±1次回折光束及び0次回折光束)による干渉縞を標本(5)に形成する光学系(レンズ16、25、27、6)と、前記干渉縞の方向を切り換える切換部と、前記干渉縞で空間変調された前記標本の像である変調像を撮像する撮像部(撮像素子351、352、制御装置39)とを備え、前記撮像部(撮像素子351、352、制御装置39)は、前記切り換えの途中であって前記標本(5)へ入射する前記光束の数が1となる期間内の所定のタイミングで、空間変調されていない前記標本(5)の像である無変調像を少なくとも1枚、撮像する。
したがって、上述した何れかの実施形態の構造化照明顕微鏡装置1は、前記干渉縞の方向の異なる複数枚の前記変調像と、少なくとも1枚の前記無変調像とを、高効率に撮像することができる。
上述した何れかの実施形態の構造化照明顕微鏡装置1は、光源(レーザユニット100)からの射出光束を複数の光束に分岐する分岐部(回折格子13)と、前記複数の光束のうち、前記所定数の光束のみを選択する所定数の選択部(開口部)を有した光束選択部材とを備え、前記切換部は、前記光束選択部材を前記光学系(レンズ16、25、27、6)の光軸周りに回動させることにより前記光束選択部材で選択される前記所定数の光束の組み合わせを切り換える回動機構(24A)である。
或いは、上述した何れかの実施形態の構造化照明顕微鏡装置1は、光源(レーザユニット100)からの射出光束を前記所定数の光束に分岐する分岐部(一方向回折格子)を備え、前記切換部は、前記所定数の光束を前記光学系の光軸周りに回動させる回動機構(例えば一方向回折格子を回動させる機構)である。
また、構造化照明顕微鏡装置1は、前記回動の前に前記所定数の光束のみを選択する所定数の選択部(開口部)からなる組と、前記回動の後に前記所定数の光束のみを略同時に選択する所定数の選択部(開口部)からなる組とを有した光束選択部材(例えば、図19(b)〜(d)、(f)〜(h)の何れかの光束選択部材)を備える。
因みに、第1実施形態の前記光束選択部材は、前記光軸(O)に関して対称な選択部(スリット状開口部)を有する。
また、第2実施形態の前記光束選択部材は、前記光軸(O)に関して非対称な選択部(部分扇状開口部)を有する。
また、第2実施形態の前記光束選択部材が前記タイミングで選択する前記光束は、前記所定数の光束のうち前記光軸(O)外の光束である。
また、上述した何れかの実施形態の構造化照明顕微鏡装置1は、前記所定数の光束のうち前記光軸(O)上の光束を遮光する遮光部材(0次光シャッタ200の遮光部200C)を更に備える。
また、前記遮光部材(遮光部200C)は、前記変調像の撮像時には前記光軸(O)上の光束の光路へ挿入され、前記無変調像の撮像時には前記光軸(O)上の光束の光路から離脱される(第1実施形態の2D−SIMモードなどを参照。)。
或いは、前記遮光部材(遮光部200C)は、前記変調像の撮像時には前記光軸(O)上の光束の光路から離脱され、前記無変調像の撮像時には前記光軸(O)上の光束の光路へ挿入される(第2実施形態の3D−SIMモードなどを参照。)。
また、上述した何れかの実施形態の構造化照明顕微鏡装置1は、前記標本(5)を照射する光束の強度、前記光束の照射時間、前記撮像部(撮像素子351、352、制御装置39)の電荷蓄積時間のうち少なくとも1つを、条件式(A)を満たすように制御する制御部(制御装置39)を備える。但し、式(A)におけるIsiは、前記変調像の撮像時における標本像強度、Iflatは、前記無変調像の撮像時における標本像強度、Tsiは、前記変調像の撮像時における前記撮像部(撮像素子351、352、制御装置39)の電荷蓄積時間、Tflatは、前記無変調像の撮像時における前記撮像部(撮像素子351、352、制御装置39)の電荷蓄積時間である。
また、前記所定数の光束は、回折光学素子で分岐されたものであり、前記制御部(制御装置39)は、前記所定数の光束の波長に応じて前記制御を行う。
また、上述した何れかの実施形態の構造化照明顕微鏡装置1は、前記干渉縞の位相をシフトさせる位相シフト部(並進機構15A)を更に備える。
また、上述した何れかの実施形態の構造化照明顕微鏡装置1は、前記変調像の画像及び前記無変調像の画像に基づき前記標本の復調画像を生成する演算部(画像記憶・演算装置40)を更に備える。
[復調演算の説明]
以下、画像記憶・演算装置40による復調演算を説明する。
上述した画像記憶・演算装置40は、演算用のプログラムを実行することで演算を行う計算機、演算処理を行う演算回路、或いは、両者の組み合わせによって構成される。また、計算機は、記憶媒体又は通信網経由で演算用のプログラムをインストールした汎用の計算機であってもよい。画像記憶・演算装置40による復調演算の基本手順は、以下の4つのステップからなる。
第1ステップ:制御装置39から転送された複数の画像(変調画像、無変調画像など)の各々をフーリエ変換し、複数の空間周波数スペクトルを生成する。
第2ステップ:個々の空間周波数スペクトルに重畳されている、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分を、フーリエ空間上で互いに分離する。
第3ステップ:互いに分離された蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分を、フーリエ空間上で再配置することにより、復調画像の空間周波数スペクトルを生成する。
第4ステップ:復調画像の空間周波数スペクトルを逆フーリエ変換することにより、復調画像(=超解像画像)を取得する。
なお、これらステップの少なくとも2つは、1つの演算式によって一括で実行されてもよい。
[第1.1節(2D−SIMの前提)]
本節では、2D−SIMの前提を説明する。
ここでは、2D−SIMモードにおける干渉縞強度分布を、以下のとおり定義する。
標本の蛍光物質密度をI0(x)とし、標本面上の干渉縞強度分布をK(x)とおく。また、標本で発生する蛍光が照明強度に比例すると仮定する。この場合、蛍光強度分布Ifl(x) は、以下のとおり表される。
また、標本の各点で発生した蛍光はインコヒーレントなので、この蛍光強度分布I
fl(x)を対物レンズで捉えた像、すなわち、変調画像I(x)は、インコヒーレント結像の式により、以下のとおり表される。
以下、各関数のFourier 変換を以下のとおり表す。
この場合、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
OTFは|ξ|>2NAでゼロとなるので、変調画像の空間周波数スペクトルも|ξ|>2NAでゼロとなる。なお、ここでは、以下の関係を用いた。
また、フーリエ空間上の蛍光強度分布は、以下のとおり表される。
[第1.2節(従来の2D−SIM)]
本節では、比較のため、従来の2D−SIMの復調演算を説明する。
先ず、2D−SIMの干渉縞強度分布は、以下のとおり表される(縞は正弦波状の強度分布を有する)。
但し、ξ
0は、干渉縞の空間周波数(変調周波数)である。
よって、フーリエ空間上の干渉縞強度は、以下のとおり表される。
この式1.6と、式1.3、式1.4とによると、フーリエ空間上の変調画像は、以下のとおり表されることがわかる。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、干渉縞の位相がφ
iであるときに取得された変調画像には、対応する添字「φ
i」を付す。
ここで、前述したとおり、2D−SIMで取得される変調画像のスペクトルの観測点ξには、蛍光の−1次変調成分、蛍光の+1次変調成分、蛍光の0次変調成分の3成分が重畳している。式1.7の右辺における3つの項がこれらの各変調成分に対応する。つまり、正弦波の強度分布を有する縞で標本(蛍光)を空間変調したので、変調画像のスペクトルは、蛍光の3つの変調成分(0次変調成分、±1次変調成分)で表現することができる。観測点ξに重畳された+1次変調成分は、復調画像のスペクトルにおける復元点(ξ−ξ0)が有するべき値(復元値)であり、観測点ξに重畳された−1次変調成分は、復調画像のスペクトルにおける復元点(ξ+ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。このことは、変調画像のスペクトルの各観測点について当てはまる。図20における大きな1つの黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな2つの黒点は、その観測点から復元される3つの復元点に対応している。
そこで、従来の2D−SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された3つの変調成分を互いに分離するために、縞の位相の異なる3つの変調画像を取得し、それらの変調画像の各々のスペクトルを生成し、それらのスペクトルを3つの式(以下の式1.8、式1.9、式1.10)へ当てはめることで、3つの方程式を取得していた。従来は、この3つの方程式を解くことで、図20における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
因みに、簡単のため、τ=OTF(ξ) と書くと、式1.8、式1.9、式1.10は、以下のとおりに書き換えることができる。
なお、この式の行列(以下、Mとおく)の行列式がゼロでなければ、3つの変調画像のスペクトルにおける或る観測点の3つの観測値(左辺)から、その観測点に対応する3つの復元点の復元値(右辺)を求めることができる。
ここで、従来の2D−SIMにおける縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定され、通常解像領域|ξ|<2NAから得られる観測値によって、|ξ±ξ0|>2NAとなる復元点の復元値を求めることができる。よって、従来の2D−SIMでは、通常解像領域外(超解像領域)の復元値を復元すること、つまり復調画像として超解像画像を得ることができる。
なお、上記の行列Mは、ξに依存しない。すなわち、フーリエ空間上の座標(=空間周波数)に依存しない。そこで、位相φiをパラメータとして行列Mの条件数をプロットすると、図21 のとおりとなった。
図21は、行列Mの条件数の逆数の分布である。但し、ここでは、第1の変調画像の位相φ1=0°とおき、第2の変調画像の位相φ2及び第3の変調画像の位相φ3を変数とした。図21の横軸がφ2であり、図21の縦軸がφ3である。
図21からは、φ2=120°、φ3=240°のとき、条件数の逆数が最大値0.5となり、最も条件が良いことがわかる。このため、従来の2D−SIMでは、3フレーム間の位相差を、120°に設定することが一般的であった。
[第1.3節(2D−SIMの2画像2点復元)]
本節では、2D−SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置39が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置40が実行するものとする(他の節においても同様。)。
本節では、2D−SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の−1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、何れも復元点ξの復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する2つの復元点ξ、(ξ+ξ0)の復元値が含まれている。本節の2画像2点復元では、この関係を利用する。以下、具体的に説明する。
先ず、干渉縞強度分布を従来の2D−SIMと同様に仮定すると、対物レンズのNAにより、変調画像のスペクトルの観測範囲は、|ξ|<2NAで表される。
本節の縞の空間周波数(変調周波数)ξ0は、|ξ0|<2NAが成り立つように設定される。なお、縞の空間周波数(変調周波数)ξ0は回折格子13の格子周期(標本上に形成される縞周期)により設定される。
この場合、1枚の変調画像のスペクトルから、ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)の観測値を得ることができる。ただし、(ξ+ξ0)の観測値を得ることができるのは、ξが|ξ+ξ0|<2NAを満たす範囲に限られる。
ここで、1枚の変調画像のスペクトルにおける、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
これらの式1.12、式1.13の右辺には、4つの復元点の復元値(未知数)が登場している。これら4つの復元値を既知とするためには、更に2つの式が必要である。
そこで、本節では、互いに位相φの異なる2枚の変調画像の各々のスペクトルを生成し、それら2つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ0)に関する合計4つの観測値を参照し、それら4つの観測値を、式1.12、式1.13へ当てはめることにより、4つの復元値(未知数)を含んだ合計4つの式を取得する。
ここで、簡単のため、τ1 =OTF(ξ)、 τ2=OTF(ξ+ξ0)とおき、第1の変調画像の位相φをφ1とおき、第2の変調画像の位相φをφ2とおくと、4つの式は、次のような行列で表わされる。
よって、本節では、この行列(以下Mとおく)の行列式がゼロでなければ、2枚の変調画像のスペクトルにおける4つの観測値(左辺)から、4つの復元値(右辺)を求めることができる。
ここで、図22における2つの円枠のうち、内側の円枠は、通常解像範囲の外縁(|ξ|=2NA)である。また、外側の円枠は、超解像範囲の外縁(|ξ|=4NA)である。
図22における2つの大きな黒点は、縞の空間周波数(変調周波数)ξ0の分だけずれた或る2つの観測点を示しており、図22における2つの大きな黒点及び2つの小さな黒点は、それら2つの観測点から復元される4つの復元点を示している。
本節では、干渉縞の位相の異なる2枚分の変調画像のスペクトルが取得されるので、それら2つのスペクトルの各々における2つの観測点から、合計4つの観測値が取得される。そして、これら4つの観測値を上述した式1.14へ当てはめることで、4つの復元点の各々の復元値を求める。
そして、本節では、2つの観測点を通常解像範囲内で移動させながら、4つの復元値の算出を繰り返すことで、図22における塗りつぶし領域全域の復元値を求める。
したがって、本節では、取得される変調画像の枚数(生成されるスペクトルの数)が2のみであるにも拘わらず、通常解像範囲の少なくとも一部の復元値と、超解像範囲の少なくとも一部の復元値とを求めることができる。
[第1.3.1節(復元可能条件)]
本節では、第1.3節の復調演算に必要な条件を説明する。
上述した式1.14が一意的な解を持つためには、行列Mの行列式がゼロ以外の値をとればよい。ここで、行列Mの行列式は、以下のとおり表される。
したがって、第1の変調画像の位相φ
1と、第2の変調画像の位相φ
2との位相差Δφが、Δφ≠0でありさえすれば、detM≠0となり、式1.14は一意的な解を持つ。以上の結果、第1.3節の復調演算に必要な条件は、Δφ≠0であることがわかる。
[第1.3.4節(Δφ=πの特徴)]
本節では、Δφ=πの特徴を説明する。
Δφ=πのときには、以下の式が成り立つ。
に掛かる位相が等しくなるので、I
0(ξ)については簡単に解けて、
となる。したがって、Δφ=πとすれば、通常解像領域において復元できない領域を無くすことができる。
図23(A)の塗りつぶし領域は、Δφ≠πのときに復元可能な範囲であるのに対して、図23(B)の塗りつぶし領域は、Δφ=πのときに復元可能な範囲である(何れも、|ξ0|=2NAの場合。)。図23における2つの円のうち、内側の円は、通常解像範囲の外縁(|ξ|=2NA)であり、外側の円は、超解像範囲の外縁(|ξ|=4NA)である。
なお、ここでは干渉縞の方向数を1と仮定したが、干渉縞の方向数を3とし、各方向について第1.3節と同様の復調演算を適用したならば、図24に示すような広い領域を復元することができる。
[第1.4節(2D−SIMのTwo-pass 復元)]
本節では、2D−SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
以下、互いに方向及び周期の異なる複数の干渉縞を区別するために、個々の干渉縞を波数ベクトルで表す。この波数ベクトルの大きさは、干渉縞の空間周波数の大きさを示し、波数ベクトルの方向は、干渉縞の方向を示す。
本節では、以下の4つのステップが実行される。
第1ステップ:波数ベクトルがξ0であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図25(A)に示す領域の復元値を求める。
第2ステップ:波数ベクトルがξ1であり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図25(B)に示す領域の復元値を求める。
第3ステップ:以上のステップで求めた復元値と、以下の式とに基づき、図26(A)に示す領域の復元値を求める。
すなわち、以上のステップで求めた復元値、すなわち、
を式1.26へ当てはめることで、図26(A)に示す領域の復元値を求める。なお、式1.26は、式1.24と式1.25とを、
ただし、本ステップを可能とするために、少なくとも第2ステップでは、Δφ≠πn(n は整数)とする。
第4ステップ:第2ステップで求めた通常解像範囲の復元値(=図25(B)の塗りつぶし領域のうち|ξ|<2NAの部分)に基づき同様に、図26(B)に示す領域の復元値を求める。
ただし、本ステップを可能とするために、第1ステップでは、Δφ≠πn(n は整数)とする。
第1ステップと第3ステップをまとめて、図27(B)のように表すこともできる。すなわち、図27(B)の横線において横方向に連なる4つの黒点は、第1ステップで解く式1.14と同等の連立方程式から求まる4つの復元値(未知数)のフーリエ空間(波数空間)における位置を表している。
図27(B)にある2本の縦線の各々において、縦方向に連なる3つの黒点のうち、中央の大きい黒点は、第1ステップの式から求まる1つの既知数のフーリエ空間(波数空間)における位置を示しており、両端の小さな黒点は、第3ステップで解く連立方程式1.26の2つの復元値(未知数)のフーリエ空間(波数空間)における位置を示している。
これらの8つの黒点の相互の位置関係は、どの例を選んでも同一である。フーリエ空間(波数空間)において黒点の取りうる位置の範囲は、フーリエ空間(波数空間)において2つの大きな黒点(中央)の取りうる位置の範囲によって制限される。2つの大きな黒点が取りうる位置の範囲は|ξ|<2NAであるので、第1ステップ及び第3ステップの計算によって求めることができる復元値(未知数)の位置の範囲は、図27(B)の塗りつぶし領域の範囲となる。
なお、図27(A)は、第2ステップ及び第4ステップを、図27(B)と同様に示したものである。
したがって、本節では、図28に示す塗りつぶし領域の全域を復元することができる。
[第1.5節(2D−SIMの超解像の例)]
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
先ず、第1の例では、変調画像の枚数(スペクトルの数)を抑えることを重視し、Two-pass 復元を行う。そのために、第1の例では、波数ベクトルの方向数を2とし、互いに異なる2つの波数ベクトルξ1、ξ2の各々で、位相の異なる2枚の変調画像を取得し(合計4枚の変調画像を取得し)、それら4枚の変調画像の各々のスペクトルを生成する(合計4つのスペクトルを生成する)。そして、Two-pass 復元を可能とするため、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ≠πに設定する。また、波数ベクトルの大きさ|ξi|を、|ξi|=2NAに設定する(i=1、2)。この場合、図28に示す塗りつぶし領域が復元される。
次に、第2の例では、演算精度を重視し、Two-pass 復元ではなく「2画像2点復元」を行う。そのために、第2の例では、波数ベクトルの方向数を3とし、互いに異なる3つの波数ベクトルξ1、ξ2、ξ3の各々で、位相の異なる2枚の変調画像を取得し(合計6枚の変調画像を取得し)、それら6枚の変調画像の各々のスペクトルを生成する(合計6つのスペクトルを生成する)。そして、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πとする。また、復元領域に隙間が生じるのを避けるために、|ξi|を2NAより意図的に小さくする。具体的には、復元領域に隙間が生じない範囲内で|ξi|を最大にするために、波数ベクトルの大きさ|ξi|を、|ξi| =(√3)×NAに設定する(i=1、2)。この場合、図29に示す領域が復元される。
[第1.6節(2D−SIMの4画像3点復元)]
本節では、2D−SIMの復調演算として、2D−SIMの「4画像3点復元」を説明する。
本節では、波数ベクトルの方向数を3とする(3つの波数ベクトルξ1、ξ2、ξ3の各々で変調画像を取得し、それら変調画像の各々のスペクトルを生成する。)。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1−ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)では、位相数を2とする(縞方向が同じであり位相の異なる2枚の変調画像I(0)、I(1)を得る)が、他の2つの方向(波数ベクトルξ2、ξ3)の各々では、位相数を1に抑える(縞方向の異なる2枚の変調画像I(2)、I(3)を得る)。
また、縞方向が同じである2枚の変調画像間の位相差Δφは、Δφ=πに設定する。
また、本節では、個々の波数ベクトルの大きさを、|ξi| =2NAに設定する(i=1、2、3)。
このとき、4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々の干渉縞強度分布は、
ここで、これら4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおいて、3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点(大きな黒点)に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
本節で取得した4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおける3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)からは、合計12個の観測値が得られるので、それら12個の観測値に対応する式1.7相当の式を、12個分、取得することができる。本節では、これら12式からなる連立方程式を解くために、以下の条件が必要となる。
図30は、計算の図解である。ただし、|ξ
1|=|ξ
2|、ξ
1・ξ
2=|ξ
1||ξ
2|/2とした。
図30(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図30(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返すことで、図30(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図30(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図30(A)の復元と、図30(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図31に示した塗りつぶし領域の全域を復元する。
図31は、図30(A)に示した復元領域と、図30(B)に示した復元領域と合成したものである。
以下、本節で述べた12式から成る連立方程式を解く計算の一例を詳しく説明する。
図32は、本節の計算を3つのステップに分けて説明した図である。
図32(A)は、第1ステップで復元される4つの復元点1〜4を示している。
図32(B)は、第2ステップで復元される4つの復元点5〜8を示している。
図32(C)は、第3ステップで復元される4つの復元点9〜12を示している
図32(D)は、図中の番号1〜12と復元値との対応関係を示している。
第1ステップ:波数ベクトルξ1の方向に間隔|ξ1|で並ぶ2つの観測点1、2に関する4つの観測値を、2画像2点復元の式へ当てはめることにより、復元点1、2、3、4の各々の復元値を求める。
第2ステップ:復元点1、2の各々の復元値を使用して、それら復元点1、2から波数ベクトルξ2、ξ3の分だけずれた4つの復元点5、6、7、8 の各々の復元値を求める。この際に使用される式は、波数ベクトルξ1の方向に関する2つの式(2位相分)と、波数ベクトルξ2の方向に関する1つの式と、波数ベクトルξ3の方向に関する1つの式と、の合計4つの式である。
第3ステップ:復元点1、2、5の各々の復元値を使用して、それら復元点1、2、5から波数ベクトルξ2、ξ3の分だけずれた残りの復元点9、10、11、12の各々の復元値を求める。この際に使用される式は、波数ベクトルξ2の方向に関する2つの式(観測点2つ分)と、波数ベクトルξ3の方向に関する2つの式(観測点2つ分)と、の合計4つの式である。
もちろん、本節で述べた12式から成る連立方程式の解法は、上記の手順に限られるものではない。
[第1.7節(2D−SIMの4画像3点復元の変形例)]
本節では、4画像3点復元の変形例を説明する。
本節では、3つの方向の全ての位相数を1に抑え、その代わりに、1枚の無変調画像を取得し、その無変調画像のスペクトルを生成する。
無変調画像は、K(0)=1で取得された画像のことであって、例えば上述した回折格子13及び光束選択部18を光路から外した状態で取得することができる。また、無変調画像のスペクトルは、その無変調画像をフーリエ変換したものである。
上記したとおり本節において変調画像の枚数(変調画像のスペクトルの数)は3、無変調画像の枚数(無変調画像のスペクトルの数)は1であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式(変調画像のスペクトルに関する式1.7を9つと、無変調画像のスペクトルに関する式1.53を3つと)を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
なお、本節では、以下の条件が必要となる。
[第1.9節(2D−SIMの同時3方向4画像3点復元)]
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
先ず、本節では、標本へ投影する干渉縞は、以下のとおり方向の異なる3つの干渉縞の足しあわせ(3方向干渉縞)とされる。なお、3方向干渉縞の投影方法は後述する。
つまり、本節では、3つの波数ベクトルξ
1、ξ
2、ξ
3を同時に有する3方向干渉縞を採用し、この3方向干渉縞で、位相の互いに異なる4枚の変調画像を取得し、それら4枚の変調画像の各々のスペクトルを生成する。
ただし、|ξi|≦2NAとし(i=1、2、3)、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1−ξ2)とする。
また、3方向干渉縞の振幅を規定するaの値は、以下の式を満たすように選択されるものとする。
先ず、本節で取得された或る1枚の変調画像のスペクトルにおける或る観測点ξには、復調画像のスペクトルにおける復元点ξに与えるべき復元値と、復調画像のスペクトルにおける復元点(ξ±ξ
i)に与えるべき復元値(i=1、2、3)と、の合計7つの復元点の復元値が重畳されている。
言い換えると、変調画像のスペクトルにおける或る観測点ξには、蛍光の0次変調成分と、波数ベクトルξ1による蛍光の±1次変調成分と、波数ベクトルξ2による蛍光の±1次変調成分と、波数ベクトルξ3による蛍光の±1次変調成分と、の合計7成分が重畳されている。
ここで、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3が描く三角形を想定し、その三角形の頂点に位置する3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)に着目する。
これら3つの観測点ξ、(ξ+ξ1)、(ξ+ξ2)の全体には、12個の復元点の復元値が含まれている。
図33は、その図解である。ただし、|ξ1|=|ξ2|、ξ1・ξ2=|ξ1||ξ2|/2とした。
図33(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ1、ξ2、ξ3によって描かれる三角形の頂点に位置する3つの観測点を示しており、図33(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことにより、12個の復元点の復元値が個別に求まる。
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返せば、図33(A)に示す塗りつぶし領域全域の復元値を求める。
なお、図33(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図33(A)の復元と、図33(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図31に示した塗りつぶし領域と同じ領域を復元する。
ここで、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々に反映されている3方向干渉縞の位相(3成分からなる)は、例えば、
すなわち、4枚の変調画像I
(1)、I
(2)、I
(3)、I
(4)の各々における干渉縞強度分布は、以下のとおり。
因みに、4枚の変調画像における干渉縞強度分布の和は、以下の通りである。
つまり、このような干渉強度分布及び位相の組み合わせの下で4枚の変調画像を取得したならば、標本の各部が互いに等しい光量で照明されることになる。4枚の変調画像間で、3方向干渉縞のパターンは共通、かつ、パターンの位置のみがシフトした関係になっている。よって、次の関係が成り立つ。
ただし、a
1、a
2は、干渉縞の周期構造を結晶格子に見立てたときの格子の基本ベクトルであって、逆格子ベクトル(波数ベクトル)k
iを、k
1=(2π/λ)ξ
1、k
2=(2π/λ)ξ
2、k
3=e
Zとおくと(e
Z:z方向の単位ベクトル)、以下の式で与えられる。
図34は、3方向干渉縞の格子構造と、格子の基本ベクトルa
1、a
2との関係を示す図である。
図35は、4枚の変調画像の間における干渉縞強度分布の関係を示す図である。
図35に示すとおり、4枚の変調画像の間では、格子パターンが互いに重ならないように平行移動している。また、その移動量の単位は、格子の基本ベクトルの半分となっている。
[第1.9.2節(3方向干渉縞の投影方法)]
ここで、3方向干渉縞の投影方法を説明する。
3方向干渉縞を上述した構造化照明顕微鏡装置1で生起させる際には、他の干渉縞(1方向干渉縞)を生起させる場合と同様、上述した回折格子13(図2(A))を使用することができる。
但し、光束選択部材18の開口パターンは、回折格子13において生成する3群の回折光のうち、各群の0次回折光と各群の2次以降の高次回折光と各群の+1次回折光とをカットし、かつ、各群の−1次回折光のみを透過するように設定される。これによって、瞳面上に形成される集光点は、3つの−1次回折光による集光点のみとなる。図36(A)は、光束選択部材18によって余分な回折光がカットされなかった場合の集光点の配置を示しており、図36(B)は、光束選択部材18によって余分な回折光がカットされた場合の集光点の配置を示している。この場合、120°ずつずれた位置に3つの集光点が形成される。これら3つの集光点から射出した3つの回折光(ここでは3つの−1次回折光)は、3方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。なお、ここでは、干渉縞に寄与する回折光を3つの−1次回折光としたが、3つの+1次回折光としてもよいことは言うまでもない。
但し、この場合、3方向干渉縞として、3通りの2光束干渉縞の重ね合わせではなく、3光束干渉縞が生起してしまうので、超解像効果が低くなってしまう。また、±1次回折光の一方をカットするので、レーザ光の利用効率が低くなってしまう。
そこで、次のとおりにしてもよい。すなわち、独立した3つのレーザ光源A、B、Cを用意し、レーザ光源Aから射出したレーザ光、レーザ光源Bから射出したレーザ光、レーザ光源Cから射出したレーザ光の各々を、2分岐ファイバで分岐し、6つの点光源a、a’、b、b’、c、c’を形成する。なお、点光源a、a’は、レーザ光源Aから生成された可干渉な光源であり、点光源b、b’は、レーザ光源Bから生成された可干渉な光源であり、点光源c、c’は、レーザ光源Cから生成された可干渉な光源である。そして、ファイバを適切に配線することにより、それら6つの点光源a、a’、b、b’、c、c’を、図37に示すような位置関係で瞳共役面へ配置する。つまり、点光源a、a’の配列方向と、点光源b、b’の配列方向と、点光源c、c’の配列方向とは、120°ずつ異なる互いに異なる方向に設定される。これら6つの点光源から射出した6つのレーザ光は、6方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。
ここで、点光源a、a’から射出したレーザ光La、La’と、点光源b、b’から射出したレーザ光Lb、Lb’と 、点光源c、c’から射出したレーザ光Lc、Lc’とは、互いに干渉しない。したがって、標本上に形成される干渉縞は、3通りの2光束干渉縞の重ね合わせとなる。よって、超解像効果が低くなることはなく、レーザ光の利用効率も高い。
なお、このように、光の分岐手段として回折格子13の代わりに2分岐ファイバが使用された場合は、3方向干渉縞の位相(3成分からなる)を変化させるために、回折格子13を並進移動させる代わりに、レーザ光La、a’の位相差と、レーザ光Lb、Lb’の位相差と、レーザ光Lc、Lcの位相差とをそれぞれ変化させればよい。
[第2.1節(3D−SIMの前提)]
本節では、3D−SIMの復調演算の前提を説明する。
ここでは、3D−SIMにおける干渉縞強度分布を、以下のとおり仮定する。
3光束干渉の波長をλとおくと、3D−SIMにおける干渉縞強度分布K(r) は、以下のとおり表される。
ただし、k
0= 2π/λ、j=−1、0、+1として、ベクトルk
jを以下の通り定義する。
簡単のため、a0=1、a+=a=|a|eiφ、a−=a*=|a|e−iφと仮定すると、
となるので、干渉縞強度分布Kは、以下のとおり表される。縞は、正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)と、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)とが重畳したものからなる。
と表せる。これを、zに依存する成分とxに依存する成分とに分離して、
となる。ただし、J
−1=J
1 *、J
−2=J
2 *とする。
さて、標本の蛍光物質密度をI0(x)とし、以上の干渉縞強度分布Kの干渉縞を標本へ投影したときに、標本の蛍光強度分布は、I0(r)K(r)で表されると仮定し、標本の各点で発生した蛍光は他の点の蛍光物質を励起しないという近似(Born 近似)を採用する。
このとき、3D−SIMモードで取得される変調画像I(x、z)は、次のように表される。
ここで、干渉縞のz方向(光軸Oの方向)の起点を、観測点のz座標(z’)が常に中心となるように設定したならば、
そして、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
とした。なお、a、b、cは、3D−SIMの干渉縞に寄与する3光束(±1次回折光及び0次回折光)の強度バランスによって決まる値である。
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、以下では、この式に現れるφを「位相」と称す。
[第2.2節(従来の3D−SIM)]
本節では、比較のため、従来の3D−SIMの復調演算を説明する。
先ず、3D−SIMモードで取得される変調画像のスペクトルにおける観測点ξには、蛍光の−1次変調成分、蛍光の+1次変調成分、蛍光の+2次変調成分、蛍光の+2次変調成分、蛍光の0次変調成分の5成分が重畳されている。観測点ξに重畳された±1次変調成分は、復調画像のスペクトルにおける復元点(ξ±ξ0)が有するべき値(復元値)であり、観測点ξに重畳された±2次変調成分は、復調画像のスペクトルにおける復元点(ξ±2ξ0)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
このことは、変調画像のスペクトルの各観測点について当てはまる。図38における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
そこで、従来の3D−SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された5つの変調成分を互いに分離するために、位相の異なる5枚の変調画像を取得し、それらの変調画像の各々のスペクトルを生成していた。従来は、これらのスペクトルが満たす5つの方程式を連立させて解くことで、図38における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
[第2.4節(3D−SIMの9画像2点復元)]
本節では、3D−SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置39が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置40が実行するものとする(他の節においても同様。)。
本節では、3D−SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξ0だけ離れた2つの観測点ξ、(ξ+ξ0)には、互いに値の共通する変調成分が重畳されていることに着目する。
具体的には、観測点ξに重畳した蛍光の−1次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ0)の復元値に相当し、観測点ξに重畳した蛍光の−2次変調成分と、観測点(ξ+ξ0)に重畳した蛍光の−1変調成分とは、何れも復元点(ξ+2ξ0)の復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、復元点ξの復元値に相当し、観測点(ξ+ξ0)に重畳した蛍光の+2次変調成分と、観測点ξに重畳した蛍光の1次変調成分とは、何れも(ξ−ξ0)の復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ0)には、互いに共通する4つの復元点(ξ−ξ0)、ξ、(ξ+ξ0)、(ξ+2ξ0)の復元値が含まれている。
本節の9画像2点復元では、この関係を利用する。以下、具体的に説明する。
1枚の変調画像のスペクトルにおいて、観測点ξの観測値と、観測点(ξ+ξ0)の観測値とは、以下の式で表される。
そこで、本節では、同一の波数ベクトルξ
0で互いに位相φの異なる3枚の変調画像を取得し、それら3枚の変調画像の各々のスペクトルを生成し、それら3つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ
0)に関する合計6個の観測値を参照し、それら6つの観測値を、これらの式へ当てはめることにより、6個の復元値(未知数)を含んだ合計6個の式を取得する。
図39は、本節の3D−SIMの復調画像の周波数域を示す図である。図39(A)はxy断面、図39(B)は、zx断面である。
図39における大きな黒点は、ξ0だけずれた或る2つの観測点ξ、(ξ+ξ0)を示しており、図39における2つの大きな黒点及び4つの小さな黒点は、それらの観測点ξ、(ξ+ξ0)から復元される復元点(合計6つの復元点)を示している。
以上の説明は、或る波数ベクトル(1方向)に関する復元の説明である。
よって、本節では、互いに方向の異なる3つの波数ベクトルの各々で位相の異なる3枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成し、それらのスペクトルに対して方向毎に上記と同様の復元処理を施す。これによって、周波数範囲の広い復調画像を得ることができる。
なお、本節では、同一の波数ベクトルで取得される3枚の変調画像間の位相差Δφは、2π/3に設定されることが望ましい。
[第2.5節(3D−SIMの7画像3点復元)]
本節では、3D−SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D−SIMに応用したものである。
先ず、本節では、方向数(波数ベクトルの数)を3とする。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1−ξ2)にし、かつ、1枚の無変調画像を取得する代わりに、3つの方向の各々の位相数を、1ずつ抑える(2ずつとする。)。
また、本節では、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定する。
また、ここでは3つの波数ベクトルの番号をk(k=1、2、3) とおき、k番目の波数ベクトルで取得された、互いに位相の異なる2枚の変調画像を、以下の通り表す。
式2.23より、以下の式が成り立つ。
ただし、±1次変調成分と±2次変調成分とをそれぞれまとめて、次のように表した。
また、τ
0=OTF
0(ξ,ζ)、τ
0’=OTF
1(ξ,ζ)とおいた。
ここで、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定したので、式2.35より、以下の式が成り立つ。
また、0次変調成分(通常解像成分)は、次のように表せる。
以上の式2.39、式2.40、式2.41をまとめて行列で書くと、以下のとおりである。
そこで、本節では、先ず、7枚分の変調画像の各々のスペクトルにおける観測点ξに関する7つの観測値を式2.42へ当てはめることで、式2.42の右辺における7つの復元値、すなわち以下の復元値(±1次変調成分と±2次変調成分および0次変調成分)をそれぞれ求める。
ここからの先の計算は、第1.7節の計算と同様である。すなわち、スペクトル
において、3つの波数ベクトルξ
k(k=1,2,3)の分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+1次変調成分と−1次変調成分とを分離することができる。
また、スペクトル
において、3つの波数ベクトルの2倍分2ξ
k(k=1,2,3)だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+2次変調成分と−2次変調成分とを分離することができる。
[第2.6節(3D−SIMの12画像3点復元)]
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
また、本節では、同一の波数ベクトルで取得される4枚の変調画像間の位相差Δφを、Δφ=π/2に設定する。
また、ここでは方向番号をk(k=1、2、3) とおき、位相番号をl(l=0、1、2、3)とおく。
先ず、±1次変調成分は、式2.35より、
よって、本節の復調演算を行列で書くと、
したがって、本節では、12枚の変調画像のスペクトル(12のスペクトル)の観測値をこの式へ当てはめることにより、0次変調成分と±1次変調成分とを分離する。
そして、残る±2次変調成分については、第1.7節と同様の手順で分離する。
このように、本節では、第2.5節の手順を踏まずに±1次変調成分を分離することができるので、高いセクショニング効果が期待できる。
[第2.7節(3D−SIMの8画像3点復元)]
なお、上述した第1.6節を以下の通り3D−SIMに応用してもよい。
本節では、方向数(波数ベクトルの数)を3とする。
また、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1−ξ2)に設定する。
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ1)については、位相数を4とするが、他の2つの方向の各々の位相数を2に抑える。
つまり、本節では、3つの波数ベクトルξ1、ξ2、ξ3を閉じた関係(ξ3=ξ1−ξ2)にする代わりに、2つの方向の各々の変調画像数を、1ずつ抑える。よって、変調画像の合計数(スペクトルの合計数)は、8となる。
ただし、本節では、第1方向(k=1)の変調画像間の位相差は、Δφ=π/2、第2方向(k=2)の変調画像間の位相差は、Δφ=π、第3方向(k=3)の変調画像間の位相差は、Δφ=πに設定される。
このようにして取得された8枚の変調画像のスペクトルによると、各変調成分を分離することが可能である。すなわち、第1ステップにおいて、第1方向(k=1)に関する4枚の変調画像のスペクトルで0次変調成分を求めてから、第2ステップにおいて、±1次変調成分、±2次変調成分の分離を行えばよい。
[その他]
なお、上述の各実施形態の要件は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。また、法令で許容される限りにおいて、上述の各実施形態及び変形例で引用した装置などに関する全ての公開公報及び米国特許の開示を援用して本文の記載の一部とする。