JP4292137B2 - Transmission electron microscope equipment - Google Patents
Transmission electron microscope equipment Download PDFInfo
- Publication number
- JP4292137B2 JP4292137B2 JP2004300667A JP2004300667A JP4292137B2 JP 4292137 B2 JP4292137 B2 JP 4292137B2 JP 2004300667 A JP2004300667 A JP 2004300667A JP 2004300667 A JP2004300667 A JP 2004300667A JP 4292137 B2 JP4292137 B2 JP 4292137B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- transmission
- electron microscope
- microscope apparatus
- calculation unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
本発明は透過型電子顕微鏡装置に関し、特に、CCDカメラを備えた透過型電子顕微鏡装置における画像処理に関する。 The present invention relates to a transmission electron microscope apparatus, and more particularly to image processing in a transmission electron microscope apparatus equipped with a CCD camera.
近年、透過電子顕微鏡装置では、透過像を撮像するために、フィルムの代わりにインターレス型CCD(Charged Coupled Device:電荷撮像素子)カメラが使用される。CCDは、画像信号の処理が容易である利点を有する。CCDカメラより高解像度の画像を得るには、画素数が多いCCDを使用すれよいが、画素数が増加すると、CCDの価格が高くなる。 In recent years, in a transmission electron microscope apparatus, an interlaced CCD (Charged Coupled Device) camera is used instead of a film in order to capture a transmission image. The CCD has an advantage that the image signal can be easily processed. In order to obtain a higher resolution image than a CCD camera, a CCD having a large number of pixels may be used. However, as the number of pixels increases, the price of the CCD increases.
上述のように、透過型電子顕微鏡において、高解像度像が得るにはCCDの画素数を増加させればよいが、画素数を増加させると、価格が高くなり、CCDカメラの構造が大きくなる。 As described above, in a transmission electron microscope, the number of CCD pixels may be increased in order to obtain a high-resolution image. However, increasing the number of pixels increases the price and the structure of the CCD camera.
本発明の目的は、CCDカメラを備えた透過型電子顕微鏡において、低価格にて且つ簡単な構造により、高解像度の画像を得ることにある。 An object of the present invention is to obtain a high-resolution image with a low-cost and simple structure in a transmission electron microscope equipped with a CCD camera.
本発明によると、先ず、撮像対象が見つかったら、そのときの透過像をCCDによって撮像する。これを第1画像とする。次に、透過像を、CCDに対して、x方向に0.5画素分だけ移動させて、撮像する。これを第2画像とする。次に、透過像を、CCDに対して、y方向に0.5画素分だけ移動させて、撮像する。これを第3画像とする。次に、透過像を、CCDに対して、x方向及びy方向に0.5画素分だけ移動させて、撮像する。これを第4画像とする。こうして、得られた4つの画像を合成することにより、CCDの全表面に受光部を配置したと仮定して得られる画像と同一の画像が生成される。 According to the present invention, first, when an imaging target is found, a transmission image at that time is captured by the CCD. This is the first image. Next, the transmission image is picked up by moving by 0.5 pixels in the x direction with respect to the CCD. This is the second image. Next, the transmission image is picked up by moving 0.5 pixels in the y direction with respect to the CCD. This is the third image. Next, the transmission image is picked up by moving by 0.5 pixels in the x and y directions with respect to the CCD. This is the fourth image. By synthesizing the four images thus obtained, an image identical to the image obtained on the assumption that the light receiving portion is arranged on the entire surface of the CCD is generated.
本発明によれば、低価格にて且つ簡単な構造により、高解像度のCCDによる画像を得ることができる。例えば、1024×1024画素のCCDカメラを用いて2048×2048画素以上の高解像度画像を得ることができる。 According to the present invention, an image by a high resolution CCD can be obtained with a simple structure at a low price. For example, a high-resolution image of 2048 × 2048 pixels or more can be obtained using a 1024 × 1024 pixel CCD camera.
図1を参照して本発明による透過型電子顕微鏡装置の例を説明する。本例の透過型電子顕微鏡装置は、電子銃1、第1及び第2の照射レンズコイル2、3、対物レンズコイル6、第1及び第2の電磁式試料イメージ移動用コイル7、8、第1及び第2の中間レンズコイル9、10、第1及び第2の投射レンズコイル11、12、第1及び第2の偏向コイル4、5、励磁電源13〜23、デジタルアナログ変換器(DAC)24〜34、マイクロプロッセサ35、記憶装置36、演算装置37、CRTコントローラ38、CRT(モニタ)39、インターフェース(I/F)40〜41、倍率切替用ロータリーエンコーダ42、入力用ロータリーエンコーダ43、キーボード44、マウス45、RAM46、ROM47、画像取込みインターフェース48、TVカメラ制御部49、及び、TVカメラ50を有する。TVカメラ50は、光学レンズ51及びCCD52を有する。光軸上には、試料ステージ53及びシンチレータ54が設けられている。
An example of a transmission electron microscope apparatus according to the present invention will be described with reference to FIG. The transmission electron microscope apparatus of this example includes an
次に、透過型電子顕微鏡による撮像手順を簡単に説明する。観察者は、キーボード44及びマウス45を使用して、視野より撮像対象を探す。倍率を変更する場合には、ROM47に格納されたレンズデータを読み出し、デジタルアナログ変換器(DAC)24〜34に供給する。デジタルアナログ変換器(DAC)24〜34は、レンズ系のデータをアナログ信号に変換し、励磁電源13〜23に供給する。励磁電源13〜23は、各レンズ系のレンズコイル2,3,6,9〜12に電流を出力する。
Next, an imaging procedure using a transmission electron microscope will be briefly described. The observer uses the
電子銃1によって生成された電子線は、第1及び第2の照射レンズコイル2、3により収束され、対物レンズコイル6によって決像され、試料ステージ53上の試料に照射される。試料を透過した電子線は、第1及び第2の電磁式試料イメージ移動用コイル7、8、第1及び第2の中間レンズコイル9、10、第1及び第2の投射レンズコイル11、12、及び、第1及び第2の偏向コイル4、5を経由して、シンチレータ54上に投影される。第1及び第2の偏向コイル4、5によって透過像は光軸に対して所定の方向に所定の距離だけ偏向される。偏向コイルの機能は、後に図5を参照して説明する。
The electron beam generated by the
シンチレータ54は、透明ガラス上に塗布された蛍光体を有する。従って、蛍光体は、試料の透過像を発光する。発光した透過像は、透明ガラスを透過し、光学レンズ51を介して、CCD52によって受光される。CCD52は、受光した透過像を電気信号に変換し、それをTVカメラ制御部49に送信する。TVカメラ制御部49は画像データを、画像取込みインターフェース48を介して、マイクロプロッセサ35、記憶装置36、及び、演算装置37に送信する。透過像は、記憶装置36に記憶され、モニタ39によって表示される。
The
図2を参照して、CCD(電荷撮像素子)の構造の概略を説明する。図2(a)は、CCDの平面構成を示し、図2(b)はCCDの断面構成を示す。CCDの表面は、所定の間隔にて縦横に整列して設けられた受光部201とそれ以外の非受光部200を有する。このCCDの画素数は、1024×1024画素である。従って、受光部201は、縦及び横にそれぞれ、1024個が規則正しく並んでいる。
With reference to FIG. 2, an outline of the structure of a CCD (charge imaging device) will be described. FIG. 2A shows a planar configuration of the CCD, and FIG. 2B shows a sectional configuration of the CCD. The surface of the CCD has a
受光部201のピッチは、7μmであり、これは、画素サイズとなる。受光部201の寸法は、画素サイズの半分の3.5μmである。即ち、1画素=7μm、0.5画素=3.5μmである。図2(b)に示すように、受光部201のうち、実際に受光する部分は、3.5μmより僅かに小さい。非受光部200には転送部が形成されている。
The pitch of the
図3を参照して、本発明の概念を説明する。図3はCCDの表面を模式的に示したものである。CCDの表面は、受光部201と非受光部202、203、204からなる。図示のように、参照符号202は、受光部201の右側の非受光部、参照符号203は、受光部201の下側の非受光部、参照符号204は、受光部201の右下側の非受光部を示す。
The concept of the present invention will be described with reference to FIG. FIG. 3 schematically shows the surface of the CCD. The surface of the CCD includes a
CCDでは、全表面積の1/4が受光部であり、残りの3/4は非受光部である。CCDの全表面積のうち、1/4の部分からの画素信号によって透過像の画像を生成している。そこで、本発明では、CCDの全表面積から画素信号を得ることを考える。先ず、撮像対象が見つかったら、そのときの透過像をCCDによって撮像する。それによって得られた像を第1画像とする。次に、透過像を、CCDに対して、x方向に0.5画素分、即ち、3.5μmだけ移動させて、撮像する。それによって得られた像を第2画像とする。第2画像は、受光部201の右側の非受光部202に受光部を配置したと仮定して得られる画像と同一である。次に、透過像を、CCDに対して、y方向に0.5画素分、即ち、3.5μmだけ移動させて、撮像する。それによって得られた像を第3画像とする。第3画像は、受光部201の下側の非受光部203に受光部を配置したと仮定して得られる画像と同一である。次に、透過像を、CCDに対して、x方向及びy方向に0.5画素分、即ち、3.5μmだけ移動させて、撮像する。それによって得られた像を第4画像とする。第4画像は、受光部201の右下側の非受光部204に受光部を配置したと仮定して得られる画像と同一である。こうして、得られた4つの画像を合成することにより、CCDの全表面に受光部を配置したと仮定して得られる画像と同一の画像が生成される。
In the CCD, 1/4 of the total surface area is a light receiving portion, and the remaining 3/4 is a non-light receiving portion. Of the total surface area of the CCD, a transmission image is generated by pixel signals from a quarter of the surface area. Therefore, in the present invention, it is considered to obtain a pixel signal from the entire surface area of the CCD. First, when an imaging target is found, a transmission image at that time is captured by the CCD. The image obtained thereby is defined as a first image. Next, the transmission image is picked up by moving the CCD by 0.5 pixels in the x direction, that is, 3.5 μm. The image obtained thereby is defined as a second image. The second image is the same as an image obtained on the assumption that the light receiving unit is arranged in the non-light receiving
透過像を0.5画素分移動させるには、試料ステージ53によって試料を移動させてもよいが、偏向コイル4、5を使用してもよい。偏向コイルによって透過像を移動させる方法は、後に、図5を参照して説明する。
In order to move the transmitted image by 0.5 pixels, the sample may be moved by the
本発明の透過型電子顕微鏡装置は、次のような特徴がある。
1)1024×1024のCCDカメラで2048×2048の高解像度画像を作成できる。
2)明るさ斑のない合成画像が作成できる。
3)透過電子顕微鏡特有の周辺歪に依存しない合成画像が作成できる。
The transmission electron microscope apparatus of the present invention has the following characteristics.
1) A 2048 × 2048 high resolution image can be created with a 1024 × 1024 CCD camera.
2) A composite image without brightness spots can be created.
3) A composite image independent of the peripheral distortion peculiar to the transmission electron microscope can be created.
図4を参照して、4つの画像より1つの合成画像を生成する方法を説明する。第1画像401の第m行第n列の画素をp1(m,n)とする。但し、m=1〜1024、n=1〜1024である。同様に、第2画像402の第m行第n列の画素をp2(m,n)、第3画像403の第m行第n列の画素をp3(m,n)、第4画像404の第m行第n列の画素をp4(m,n)とする。合成画像405の第M行第N列の画素をp5(M,N)とする。但し、M=1〜2048、N=1〜2048である。
A method for generating one composite image from four images will be described with reference to FIG. The pixel in the m-th row and the n-th column of the
図4(b)は、合成画像の左上端部を拡大して示したものである。格子状のセルは合成画像の画素を示し、セル内の上段は、合成画像の画素の行列番号を表し、セル内の下段は、元の画像の画素の行列を表す。合成画像を生成するには、第1画像の画素信号の間に第2、第3、第4画像の画素信号を挿入すればよい。合成画像の第1行第1列p5(1,1)は、第1画像の第1行第1列p1(1,1)の画素信号である。合成画像の第1行第2列p5(1,2)は、第2画像の第1行第1列p2(1,1)の画素信号であり、合成画像の第2行第1列p5(2,1)は、第3画像の第1行第1列p3(1,1)の画素信号であり、合成画像の第2行第2列p5(2,2)は、第4画像の第1行第1列p4(1,1)の画素信号である。こうして、4つの1024×1024画素信号より2048×2048画素の合成信号が得られる。 FIG. 4B is an enlarged view of the upper left corner of the composite image. A grid-like cell indicates a pixel of the composite image, an upper stage in the cell indicates a matrix number of the pixel of the composite image, and a lower stage in the cell indicates a matrix of the pixel of the original image. In order to generate a composite image, the pixel signals of the second, third, and fourth images may be inserted between the pixel signals of the first image. The first row and first column p5 (1,1) of the composite image is a pixel signal of the first row and first column p1 (1,1) of the first image. The first row and second column p5 (1,2) of the composite image is a pixel signal of the first row and first column p2 (1,1) of the second image, and the second row and first column p5 ( 2, 1) is the pixel signal of the first row and first column p3 (1, 1) of the third image, and the second row and second column p5 (2, 2) of the composite image is the second signal of the fourth image. This is a pixel signal of one row and first column p4 (1, 1). Thus, a composite signal of 2048 × 2048 pixels is obtained from the four 1024 × 1024 pixel signals.
ここでは、透過像の移動量が0.5画素の場合を説明した。しかしながら、透過像の移動量は、0.25、0.5、0.75 画素であってもよい。この場合、第1画像〜第6画像まで作成を行い、4096×4096の画像を作成することができる。 Here, the case where the movement amount of the transmission image is 0.5 pixel has been described. However, the amount of movement of the transmission image may be 0.25, 0.5, or 0.75 pixels. In this case, the first image to the sixth image can be created, and a 4096 × 4096 image can be created.
図5を参照して透過像を移動させる方法を説明する。本例では、第1及び第2の偏向コイル4、5を使用して透過像を移動させる。試料501を透過した電子線502は、偏向コイル4、5からの磁界によって偏向され、電子線の光軸503よりずれた位置に像504を生成する。
A method of moving the transmission image will be described with reference to FIG. In this example, the transmission image is moved using the first and second deflection coils 4 and 5. The
図6を参照して、本発明による透過型顕微鏡による撮像方法の第1の例を詳細に説明する。ステップS101にて、視野内の撮像対象が見つかったらそれをCCDカメラにより撮像する。こうして、第1画像を得る。第1画像を撮像した視野上の位置を基準位置とする。ステップS102にて、透過像が0.5画素分、即ち、3.5μmだけ、x方向に移動するように、偏向コイル4、5への電流信号を制御する。ステップS103にて、CCDカメラによって透過像を撮像する。こうして第2画像を得る。ステップS104にて、第1画像と第2画像の間のx方向の距離及び一致度を演算する。2つの画像間の距離及び一致度は、位相限定相関法により求める。位相限定相関法の詳細は、後に、図10を参照して説明する。2つの画像間の距離及び一致度をモニタ上に表示してもよい。 With reference to FIG. 6, the 1st example of the imaging method by the transmission microscope by this invention is demonstrated in detail. In step S101, if an imaging target within the field of view is found, it is imaged by the CCD camera. Thus, the first image is obtained. The position on the visual field where the first image is captured is taken as the reference position. In step S102, the current signals to the deflection coils 4 and 5 are controlled so that the transmitted image moves in the x direction by 0.5 pixels, that is, 3.5 μm. In step S103, a transmission image is captured by the CCD camera. A second image is thus obtained. In step S104, the distance in the x direction and the degree of coincidence between the first image and the second image are calculated. The distance between two images and the degree of coincidence are obtained by the phase only correlation method. Details of the phase only correlation method will be described later with reference to FIG. The distance between two images and the degree of coincidence may be displayed on the monitor.
ステップS105にて、透過像が正確に0.5画素分だけ移動したか否かを判定する。ここでは、2つの画像間のx方向の距離が3.5μmであり且つ2つの画像間の一致度が5%より大きいか否かを判定する。2つの画像間のx方向の距離が3.5μmでない場合又は2つの画像の一致度が5%以下である場合には、偏向コイル4、5による透過像の移動量が正確でなかったと判断し、ステップS102に戻る。ステップS102にて、移動量の誤差分だけ、透過像がx方向に移動するように、偏向コイル4、5への電流信号をフィードバック制御する。ステップS103、及び、S104を繰り返す。こうして、ステップS102、S103及びS104を繰り返すことにより、ステップS105にて、2つの画像間のx方向の距離は正確に3.5μmとなり、且つ、2つの画像の一致度は5%より大きくなる。こうして第2画像が得られる。 In step S105, it is determined whether or not the transmitted image has moved by exactly 0.5 pixels. Here, it is determined whether the distance in the x direction between the two images is 3.5 μm and the degree of coincidence between the two images is greater than 5%. If the distance between the two images in the x direction is not 3.5 μm or the degree of coincidence between the two images is 5% or less, it is determined that the amount of movement of the transmission image by the deflection coils 4 and 5 is not accurate. Return to step S102. In step S102, the current signal to the deflection coils 4 and 5 is feedback-controlled so that the transmitted image moves in the x direction by the amount of movement error. Steps S103 and S104 are repeated. Thus, by repeating Steps S102, S103, and S104, in Step S105, the distance in the x direction between the two images is accurately 3.5 μm, and the degree of coincidence between the two images is greater than 5%. A second image is thus obtained.
ステップS106にて、透過像が基準位置より、x方向及びy方向に0.5画素分、移動するように、偏向コイル4、5への電流信号を制御する。ここでは、既に、x方向に0.5画素分、移動しているので、更に、0.5画素分、y方向に移動するように、偏向コイル4、5への電流信号を制御する。ステップS107にて、CCDカメラによって透過像を撮像し、第4画像を得る。ステップS108にて、第2画像と第4画像の間のy方向の距離及び一致度を演算する。ステップS109にて、2つの画像間のy方向の距離が3.5μmであり且つ2つの画像間の一致度が5%より大きいか否かを判定する。2つの画像間のx方向の距離が3.5μmでない場合又は一致度が5%以下である場合には、偏向コイル4、5による透過像の移動量が正確でなかったと判断し、ステップS106に戻る。ステップS106にて、移動量の誤差分だけ、透過像がy方向に移動するように、偏向コイル4、5への電流信号をフィードバック制御する。ステップS106、S107及びS108を繰り返すことにより、ステップS109にて、2つの画像間のy方向の距離は正確に3.5μmとなり、且つ、2つの画像の一致度は5%より大きくなる。こうして、第4画像が得られる。 In step S106, the current signal to the deflection coils 4 and 5 is controlled so that the transmitted image moves 0.5 pixels from the reference position in the x and y directions. Here, since it has already moved 0.5 pixels in the x direction, the current signal to the deflection coils 4 and 5 is controlled so that it further moves 0.5 pixels in the y direction. In step S107, a transmission image is captured by the CCD camera to obtain a fourth image. In step S108, the distance in the y direction and the degree of coincidence between the second image and the fourth image are calculated. In step S109, it is determined whether or not the distance in the y direction between the two images is 3.5 μm and the degree of coincidence between the two images is greater than 5%. When the distance in the x direction between the two images is not 3.5 μm or the coincidence is 5% or less, it is determined that the amount of movement of the transmission image by the deflection coils 4 and 5 is not accurate, and the process proceeds to step S106. Return. In step S106, the current signals to the deflection coils 4 and 5 are feedback-controlled so that the transmitted image moves in the y direction by the amount of movement error. By repeating steps S106, S107, and S108, the distance in the y direction between the two images is accurately 3.5 μm in step S109, and the degree of coincidence between the two images is greater than 5%. A fourth image is thus obtained.
ステップS110にて、偏向コイル4、5への電流信号を制御して、透過像を最初の位置、即ち、基準位置に戻す。次に、透過像が0.5画素分、y方向に移動するように、偏向コイル4、5への電流信号を制御する。ステップS111にて、CCDカメラによって透過像を撮像し、第3画像を得る。ステップS112にて、第1画像と第3画像の間のy方向の距離及び一致度を演算する。ステップS113にて、2つの画像間のy方向の距離が3.5μmであり且つ一致度が5%より大きいか否かを判定する。2つの画像間のx方向の距離が3.5μmでない場合又は一致度が5%以下である場合には、偏向コイル4、5による透過像の移動量が正確でなかったと判断し、ステップS110に戻る。ステップS110にて、移動量の誤差分だけ、透過像がy方向に移動するように、偏向コイル4、5への電流信号を制御する。 In step S110, the current signal to the deflection coils 4 and 5 is controlled to return the transmitted image to the initial position, that is, the reference position. Next, the current signal to the deflection coils 4 and 5 is controlled so that the transmitted image moves in the y direction by 0.5 pixels. In step S111, a transmission image is captured by the CCD camera to obtain a third image. In step S112, the distance in the y direction and the degree of coincidence between the first image and the third image are calculated. In step S113, it is determined whether the distance in the y direction between the two images is 3.5 μm and the degree of coincidence is greater than 5%. If the distance between the two images in the x direction is not 3.5 μm or the degree of coincidence is 5% or less, it is determined that the amount of movement of the transmission image by the deflection coils 4 and 5 is not accurate, and the process proceeds to step S110. Return. In step S110, the current signal to the deflection coils 4 and 5 is controlled so that the transmitted image moves in the y direction by the amount of movement error.
ステップS110、S111及びS112を繰り返すことにより、ステップS113にて、2つの画像間のy方向の距離は正確に3.5μmとなり、且つ、2つの画像の一致度は5%より大きくなる。こうして第3画像が得られる。
最後に、ステップS114にて、4つの画像より1個の合成画像を生成する。
By repeating steps S110, S111, and S112, in step S113, the distance in the y direction between the two images is accurately 3.5 μm, and the degree of coincidence between the two images is greater than 5%. A third image is thus obtained.
Finally, in step S114, one composite image is generated from the four images.
図7を参照して、本発明による透過型顕微鏡による撮像方法の第2の例を詳細に説明する。本例では、透過像を移動させる方法として、試料ステージ53を使用する。従って、本例の撮像方法では、透過像を移動させるステップS202、ステップS206、及び、ステップS210のみが異なり、それ以外のステップは図6の例と同様である。
With reference to FIG. 7, a second example of an imaging method using a transmission microscope according to the present invention will be described in detail. In this example, the
図8を参照して、本発明による透過型顕微鏡による撮像方法の第3の例を詳細に説明する。上述の例では、透過像が正確に0.5画素分移動するように、偏向コイル4、5をフィードバック制御した。従って、透過像が正確に0.5画素分移動するまで、何度も偏向コイル4、5の電流信号を制御しなければならない。本例では、透過像を1回だけ移動させて、画像信号を得る。このときの移動量を演算し、それが0.5画素分でなかったら、移動量が0.5画素分の場合の画像信号を補完法により演算する。 With reference to FIG. 8, a third example of the imaging method using the transmission microscope according to the present invention will be described in detail. In the above-described example, the deflection coils 4 and 5 are feedback-controlled so that the transmitted image moves accurately by 0.5 pixels. Therefore, the current signals of the deflection coils 4 and 5 must be controlled many times until the transmitted image moves exactly 0.5 pixels. In this example, the transmission image is moved only once to obtain an image signal. The amount of movement at this time is calculated, and if it is not 0.5 pixels, the image signal when the amount of movement is 0.5 pixels is calculated by the complement method.
ステップS301にて、視野内に撮像対象が見つかったらそれをCCDカメラにより撮像する。こうして、第1画像を得る。第1画像を撮像した視野上の位置を基準位置とする。ステップS302にて、偏向コイル4、5への電流信号を制御することにより又は試料ステージ53を移動させることにより、透過像をx方向に移動させる。移動量は、略0.5画素分、即ち、略3.5μmであればよく、必ずしも、正確に0.5画素分でなくてもよい。ステップS303にて、CCDカメラによって透過像を撮像する。こうして第2画像を得る。
In step S301, if an imaging target is found in the field of view, it is imaged by a CCD camera. Thus, the first image is obtained. The position on the visual field where the first image is captured is taken as the reference position. In step S302, the transmission image is moved in the x direction by controlling the current signal to the deflection coils 4 and 5 or by moving the
ステップS304にて、第1画像と第2画像の間のx方向の距離、即ち、透過像の移動距離を演算する。2つの画像間の距離は、位相限定相関法により求める。位相限定相関法の詳細は、後に、図10を参照して説明する。2つの画像間の距離をモニタ上に表示してもよい。 In step S304, a distance in the x direction between the first image and the second image, that is, a moving distance of the transmission image is calculated. The distance between two images is obtained by the phase only correlation method. Details of the phase only correlation method will be described later with reference to FIG. The distance between the two images may be displayed on the monitor.
ステップS305にて、透過像を正確に0.5画素分だけx方向に移動させた場合に得られた推定される画像を、第2画像の画像データから補完法によって演算する。こうして修正第2画像を得る。補完法の詳細は後に図9を参照して説明する。ステップS306にて、偏向コイル4、5への電流信号を制御することにより又は試料ステージ53を移動させることにより、透過像が基準位置より、x方向及びy方向に移動させる。ここでは、既に、x方向に移動しているので、更に、透過像をy方向に移動させる。移動量は、略0.5画素分、即ち、略3.5μmであればよく、必ずしも、正確に0.5画素分でなくてもよい。ステップS307にて、CCDカメラによって透過像を撮像する。こうして、第4画像を得る。ステップS308にて、第2画像と第4画像の間のy方向の距離、即ち、透過像のy方向の移動距離を演算する。2つの画像間の距離は、位相限定相関法により求める。ステップS309にて、透過像を正確に0.5画素分だけy方向に移動させた場合に得られた推定される画像を、補完法によって第2画像の画像データから演算する。こうして修正第4画像を得る。次に、透過像を正確に更に0.5画素分だけx方向に移動させた場合に得られた推定される画像を、補完法によって、修正第4画像の画像データから演算する。こうして再修正第4画像を得る。ステップS310にて、偏向コイル4、5への電流信号を制御することにより又は試料ステージ53を移動させることにより、透過像を最初の位置、即ち、基準位置に戻す。次に、透過像が0.5画素分、y方向に移動するように、偏向コイル4、5への電流信号を制御し又は試料ステージ53を移動させる。ステップS311にて、CCDカメラによって透過像を撮像する。こうして第3画像を得る。ステップS312にて、第1画像と第3画像の間のy方向の距離、即ち、透過像の移動距離を演算する。2つの画像間の距離は、位相限定相関法により求める。ステップS313にて、透過像を正確に0.5画素分だけx方向に移動させた場合に得られた推定される画像を、補完法によって第3画像の画像データから演算する。こうして修正第3画像を得る。最後に、ステップS314にて、第1画像、修正第2画像、修正第3画像、及び、再修正第4画像より1個の合成画像を生成する。
In step S305, an estimated image obtained when the transmission image is moved in the x direction by exactly 0.5 pixels is calculated from the image data of the second image by a complement method. A modified second image is thus obtained. Details of the complement method will be described later with reference to FIG. In step S306, the transmission image is moved in the x and y directions from the reference position by controlling the current signal to the deflection coils 4 and 5 or by moving the
図9を参照して、補完法により画像を推定演算する方法を説明する。図9の縦軸は画像の階調、横軸は透過像の移動量である。ここでは、画像の階調と移動量の関係を2次曲線901によって近似する。
Y(階調)=aX2 + bX + c (1)
With reference to FIG. 9, a method for estimating and calculating an image by a complementing method will be described. The vertical axis in FIG. 9 is the gradation of the image, and the horizontal axis is the amount of movement of the transmission image. Here, the relationship between the gradation of the image and the movement amount is approximated by a
Y (gradation) = aX 2 + bX + c (1)
ここに、Yは階調、Xは移動量である。a、b、cは定数であり、3点が与えられると決まる。ここでは、ステップS305の場合を計算する。第1画像の第1行第1列p1(1,1)の画素の位置をX1、階調をY1とし、これをP1(X1,Y1)と表示する。同様に、第1画像の第1行第2列p1(1,2)の画素をP3(X3,Y3)、第2画像の画素をP2(X2、Y2)とする。これらの3点(X1,Y1)(X2、Y2)(X3,Y3)を式(1)に代入して、a、b、cを求めると、次のようになる。
b={(Y2-Y3)(X12-X22)-(X22-X32)(Y1-Y2)} /{(X12-X22)(X2-X1)-(X22-X32)(X1-X3)}
(2)
a={(Y1-Y2)-(X1-X2)b}/(X12-X22) (3)
c=Y3-aX32-bX3 (4)
Here, Y is a gradation, and X is a movement amount. a, b, and c are constants, and are determined when three points are given. Here, the case of step S305 is calculated. The position of the pixel in the first row and the first column p1 (1, 1) of the first image is X1, the gradation is Y1, and this is displayed as P1 (X1, Y1). Similarly, the pixel in the first row and the second column p1 (1,2) of the first image is P3 (X3, Y3), and the pixel of the second image is P2 (X2, Y2). Substituting these three points (X1, Y1) (X2, Y2) (X3, Y3) into equation (1) to obtain a, b, and c yields the following.
b = {(Y2-Y3) (X1 2 -X2 2) - (X2 2 -X3 2) (Y1-Y2)} / {(X1 2 -X2 2) (X2-X1) - (X2 2 -X3 2 ) (X1-X3)}
(2)
a = {(Y1-Y2)-(X1-X2) b} / (X1 2 -X2 2 ) (3)
c = Y3-aX3 2 -bX3 (4)
ステップS305の場合、X1=0、X3=1である。第2画像の移動量が0.3画素であったとする。X2=0.3である。これらの値と、階調Y1、Y2、Y3の実測値から、a、b、cの値が得られる。修正第2画像の階調を求めるには、式(1)にX=0.5を代入すればよい。曲線901上の点P4(X4,Y4)は、修正第2画像の画素の位置及び階調を表す。このような補完演算を画像の全ての画素について行う。
In the case of step S305, X1 = 0 and X3 = 1. Assume that the amount of movement of the second image is 0.3 pixels. X2 = 0.3. From these values and the actually measured values of the gradations Y1, Y2, and Y3, values of a, b, and c are obtained. In order to obtain the gradation of the corrected second image, X = 0.5 may be substituted into Equation (1). A point P4 (X4, Y4) on the
ここでは、3点が与えられる場合に補完式を2次曲線によって近似したが、2点が与えられる場合には、補完式を1次直線によって近似すればよい。修正第3画像、修正第4画像及び再修正第4画像も同様に補完法により得られる。 Here, the complementary formula is approximated by a quadratic curve when three points are given, but the complementary formula may be approximated by a linear line when two points are given. Similarly, the corrected third image, the corrected fourth image, and the re-corrected fourth image are obtained by the complement method.
図10を参照して、位相限定相関法を説明する。第1画像1001はM×Nの画素数を有し、これを画像ベクトルf1(m、n)として記録する。第2画像1002はM×Nの画素数を有し、これを画像ベクトルf2(m、n)として記録する。2つの画像1001及び1002は自然画像(虚数を含まない)であり、m=0,1,2,・・・M-1、 n=0,1,2,・・・N-1である。
The phase only correlation method will be described with reference to FIG. The
第1画像1001のベクトルf1(m,n) 、及び、第2画像1002のベクトルf2(m,n)の離散フーリエ画像F1(m,n) 、F2(m,n)はそれぞれ式(5)、(6)によって定義される。
F1(u,v)=A(u,v)ejθ(u,v) ・・・・・(5)
F2(u,v)=B(u,v)ejφ(u,v) ・・・・・(6)
但し、u=0,1,2,・・・M-1、 v=0,1,2,・・・N-1
Discrete Fourier images F1 (m, n) and F2 (m, n) of the vector f1 (m, n) of the
F1 (u, v) = A (u, v) ejθ (u, v) (5)
F2 (u, v) = B (u, v) ejφ (u, v) (6)
However, u = 0,1,2, ... M-1, v = 0,1,2, ... N-1
ここに、A(u,v)、B(u,v)は振幅スペクトル、θ(u,v)、φ(u,v)は位相スペクトルである。位相相関では、2画像間で像の平行移動があった場合には相関のピークの位置が像の移動量だけずれる。従って、画像間で像の平行移動量の求めるために、相関のピーク位置の移動量を求める。第2画像1002は、第1画像1001に対して、x方向にr’だけ移動したと仮定する。第2画像のベクトルはf4(m,n)=f2(m+r’,n)である。
Here, A (u, v) and B (u, v) are amplitude spectra, and θ (u, v) and φ (u, v) are phase spectra. In phase correlation, when there is parallel movement of an image between two images, the position of the correlation peak is shifted by the amount of movement of the image. Accordingly, in order to obtain the parallel movement amount of the images between the images, the movement amount of the correlation peak position is obtained. It is assumed that the
式(2)と同様に第2画像ベクトルf4(m,n) の離散フーリエ画像F4(u,v)を求めると式(7)が得られる。
F4(u,v) =ΣΣ f2(m+r’,n)e -j2π(mu/M+nv/N)
=B(u,v)ej(φ+2πr’u/M) ・・・・・(7)
When the discrete Fourier image F4 (u, v) of the second image vector f4 (m, n) is obtained in the same manner as the equation (2), the equation (7) is obtained.
F4 (u, v) = ΣΣ f2 (m + r ', n) e -j2π (mu / M + nv / N)
= B (u, v) ej (φ + 2πr'u / M) (7)
振幅スペクトルB(u,v)を定数と仮定すると、離散フーリエ画像F4(u,v)は、画像のコントラストに依存しない位相画像である。第2画像のベクトルf4(m,n)の位相画像F’4 (u,v)は、式(8)によって表される。
F4’(u,v)= ej(φ+2πr’u/M) ・・・・・(8)
Assuming that the amplitude spectrum B (u, v) is a constant, the discrete Fourier image F4 (u, v) is a phase image that does not depend on the contrast of the image. The phase image F′4 (u, v) of the vector f4 (m, n) of the second image is expressed by Expression (8).
F4 '(u, v) = ej (φ + 2πr'u / M) (8)
位相画像F’1(u,v)にF’2(u,v)の複素供役を乗ずることによって、式(9)の合成位相画像1003のベクトルH14(u,v)が得られる。
H14(u,v)=F’1(u,v)(F’2(u,v))*
= ej(θ-φ-2πru/M ) ・・・・・(9)
By multiplying the phase image F′1 (u, v) by the complex role of F′2 (u, v), a vector H14 (u, v) of the combined
H14 (u, v) = F'1 (u, v) (F'2 (u, v)) *
= Ej (θ-φ-2πru / M) (9)
合成位相画像1003のベクトルH14(u,v)を逆フーリエ変換することによって、式(10)の相関強度画像1004のベクトルG14(r,s)が得られる。
G14(r,s)=ΣΣ(H14(u,v)) ej2π(ur/M+us/N)
=ΣΣ(ej(θ-φ-2πr’u/M )) ej2π(ur/M+us/N)
=G12(r-r’) ・・・・・(10)
By performing inverse Fourier transform on the vector H14 (u, v) of the
G14 (r, s) = ΣΣ (H14 (u, v)) ej2π (ur / M + us / N)
= ΣΣ (ej (θ-φ-2πr'u / M)) ej2π (ur / M + us / N)
= G12 (r-r ') (10)
式(10)より、2つの画像間にX方向に位置ずれ量r’が存在する場合、相関強度画像のピークの位置は-r’だけずれることがわかる。即ち、相関強度画像より、ピークの位置の移動量-r’を求めることにより、2つの画像間のX方の移動量r’を求めることができる。 From equation (10), it can be seen that when there is a positional shift amount r ′ in the X direction between two images, the peak position of the correlation intensity image is shifted by −r ′. That is, the movement amount r ′ in the X direction between the two images can be obtained by obtaining the movement amount −r ′ of the peak position from the correlation intensity image.
以上のように、本例の相関計算は、位相成分のみによる演算であり、相関強度画像G14(r,s)は位相成分のみを含む。従って、2つの画像の間に、明るさやコントラストの差があっても、両者の間の移動量を求めることができる90
。
As described above, the correlation calculation in this example is an operation using only the phase component, and the correlation strength image G14 (r, s) includes only the phase component. Therefore, even if there is a difference in brightness or contrast between the two images, the amount of movement between the two images can be obtained.
.
2つの画像間にX方向に位置ずれ量が存在する場合は、相関強度画像1004の中心1005よりΔG(pixel)の位置1006にピークが発生する。例えば2つの画像間にてX方向に2画素のずれがあると、合成位相画像1003のベクトルH14は2周期の波になる。これを逆フーリエ変換すると相関強度画像1004のベクトルG12が得られる。相関強度画像1004のベクトルG12では、中心1005からΔG =2pixelずれた位置1006にピークが発生する。このΔG(pixel)は、TVカメラ50のCCDの受光面における移動量に相当する。ここで、CCD上の移動量ΔGを試料面上の実際の移動量Δxに変換する。CCDの受光面の径をL、受光面上の透過透過像の倍率をM、CCDの受光面の画素数Lmとすると、移動量Δxは式(11)によって表される。
Δx=ΔG(pixel)×L/Lm(pixel)/M ・・・・・(11)
Δxは2つ画像間の試料面上におけるX方向の相対的な移動量である。
When there is a positional shift amount in the X direction between two images, a peak occurs at a
Δx = ΔG (pixel) × L / Lm (pixel) / M (11)
Δx is a relative movement amount in the X direction on the sample surface between the two images.
次に画像間の精度について説明する。位相成分のみを用いた相関計算では、数学上位相のみを使用しているため相関強度に現れるピークはδピークとなる。例えば2つの画像間で1.5画素ずれると合成画像は1.5周期の波となる。これを逆フーリエ変換すると、相関強度画像の中心より1.5画素ずれた位置にδピークが立つが、1.5の画素は存在しないので、δピークの値は1画素目と2画素目に振り分けられる。 Next, the accuracy between images will be described. In the correlation calculation using only the phase component, since only the phase is used mathematically, the peak appearing in the correlation strength is the δ peak. For example, if the image is shifted by 1.5 pixels between two images, the composite image becomes a wave of 1.5 cycles. When this is subjected to inverse Fourier transform, a δ peak appears at a position shifted by 1.5 pixels from the center of the correlation intensity image. However, since there is no 1.5 pixel, the value of the δ peak is assigned to the first pixel and the second pixel.
ここで一致度が高い画素の重心を取って、この振り分けられた値から真のδピーク位置を計算すると1/10画素程度の精度を計算結果が得られる。また、相関強度画像がδピークのため、2つの画像間における類似性の評価を相関強度画像のピークの高さによって行なう。画像f1(m、n)、ピークの高さPeak(pixel)とすると一致度(%)を式(12)に示す。
一致度(%)=( Peak )/( m × n )×100 ・・・・・(12)
例えば処理画素数は128画素×128画素でPeakが16384(画素)の場合は、一致度=(16384)/(128×128)×100=100 (%)となる。
Here, taking the center of gravity of a pixel having a high degree of coincidence and calculating the true δ peak position from this assigned value, a calculation result with an accuracy of about 1/10 pixel can be obtained. Further, since the correlation intensity image is a δ peak, the similarity between the two images is evaluated based on the peak height of the correlation intensity image. When the image f1 (m, n) and the peak height Peak (pixel) are assumed, the degree of coincidence (%) is shown in Expression (12).
Match (%) = (Peak) / (m x n) x 100 (12)
For example, when the number of processed pixels is 128 pixels × 128 pixels and the peak is 16384 (pixels), the degree of coincidence = (16384) / (128 × 128) × 100 = 100 (%).
以上、本発明の例を説明したが、本発明は上述の例に限定されるものではなく、特許請求の範囲に記載された発明の範囲にて様々な変更が可能であることは当業者に理解されよう。 The example of the present invention has been described above, but the present invention is not limited to the above-described example, and various modifications can be made by those skilled in the art within the scope of the invention described in the claims. It will be understood.
1…電子銃、2…第1照射レンズコイル、3…第2照射レンズコイル、4…第1偏向コイル、5…第2偏向コイル、6…対物レンズコイル、7…第1偏向コイル、8…第2偏向コイル、9…第1中間レンズコイル、10…第2中間レンズコイル、11…第1投射レンズコイル、12…第2投射レンズコイル、13〜23…励磁電源、24〜34…DAC、35…マイクロプロッセサ、36…記憶装置、37…演算装置、38…CRTコントローラ、39…CRT(モニタ)、40〜41…I/F、42…倍率切替用ロータリーエンコーダ、43…入力用ロータリーエンコーダ、44…キーボード、45…マウス、46…RAM、47…ROM、48…画像取込みインターフェース、49…TVカメラ制御部、50…TVカメラ、51…光学レンズ、52…CCD、53…試料ステージ、54…シンチレータ、201…受光部、200、202,203,204…非受光部
DESCRIPTION OF
Claims (13)
上記画像合成部は、透過像から得た画像と上記演算部によって推定演算した画像を合成することによって、CCDの非受光部に受光部を配置したと仮定して得られる画像と同一の画像を生成することを特徴とする透過型電子顕微鏡装置。 An irradiation optical system for irradiating the sample with an electron beam, an imaging device having a CCD for capturing a transmission image of the sample, a transmission image moving device for moving the transmission image, and a movement for calculating the movement amount of the transmission image Combines a plurality of images with a quantity calculation unit, a calculation unit that estimates and calculates an image that is estimated to be obtained when the transmission image moves by a predetermined input value, using the movement amount of the transmission image. And an image composition unit for generating one image,
The image combining unit combines the image obtained from the transmission image and the image estimated and calculated by the calculating unit, thereby obtaining the same image as the image obtained on the assumption that the light receiving unit is arranged in the non-light receiving unit of the CCD. A transmission electron microscope apparatus characterized by being produced.
上記演算部は、上記移動量演算部によって演算された移動量が入力値と異なる場合に、透過像が上記入力値だけ移動した場合に得られると推定される画像を補完法によって演算し、上記画像合成部は、透過像から得た画像と該透過像を移動させて得た画像を合成することによって、又は、透過像から得た画像と上記演算部によって推定演算した画像を合成することによって、CCDの非受光部に受光部を配置したと仮定して得られる画像と同一の画像を生成することを特徴とする透過型電子顕微鏡装置。 An irradiation optical system for irradiating the sample with an electron beam, an imaging device having a CCD for capturing a transmission image of the sample, a transmission image moving device for moving the transmission image, and a movement for calculating the movement amount of the transmission image A quantity calculation unit, a calculation unit that estimates and calculates an image by a complementing method, and an image synthesis unit that generates a single image by combining a plurality of images,
When the movement amount calculated by the movement amount calculation unit is different from the input value, the calculation unit calculates an image estimated to be obtained when the transmission image moves by the input value by a complement method, The image composition unit combines the image obtained from the transmission image and the image obtained by moving the transmission image, or combines the image obtained from the transmission image and the image estimated by the calculation unit. A transmission electron microscope apparatus that generates an image that is the same as an image obtained on the assumption that a light receiving portion is arranged in a non-light receiving portion of a CCD.
上記透過像が、上記CCDに対して、x方向に0.5画素分だけ移動した場合に得られると推定される画像を補完法によって推定演算し、それを第2画像として記憶することと、
上記透過像が、CCDに対して、y方向に0.5画素分だけ移動した場合に得られると推定される画像を補完法によって推定演算し、それを第3画像として記憶することと、
上記透過像が、CCDに対して、x方向及びy方向に0.5画素分だけ移動した場合に得られると推定される画像を補完法によって推定演算し、それを第4画像として記憶することと、
上記4つの画像を合成することにより、CCDの全表面に受光部を配置したと仮定して得られる画像と同一の画像を生成することと、
を含む透過型電子顕微鏡装置によって透過像を撮像する方法。 A transmission image obtained by irradiating the sample with an electron beam is captured by a CCD, and the image obtained thereby is stored as a first image;
And that said transmission image, with respect to the CCD, estimates calculated by complementing method an image that is estimated to be obtained when moved by 0.5 pixel in x direction and stores it as the second image,
And that said transmission image, relative to CCD, image estimating operation by a complementary method is estimated to be obtained when moved by 0.5 pixel in the y direction and stores it as third image,
That said transmission image, relative to CCD, an image that is estimated to be obtained when moved by 0.5 pixel in x and y directions is estimated calculated by complementing method, and stores it as fourth image When,
Combining the above four images to generate an image identical to the image obtained on the assumption that the light receiving portion is arranged on the entire surface of the CCD;
A method for picking up a transmission image with a transmission electron microscope apparatus.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004300667A JP4292137B2 (en) | 2004-10-14 | 2004-10-14 | Transmission electron microscope equipment |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004300667A JP4292137B2 (en) | 2004-10-14 | 2004-10-14 | Transmission electron microscope equipment |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2006114348A JP2006114348A (en) | 2006-04-27 |
| JP4292137B2 true JP4292137B2 (en) | 2009-07-08 |
Family
ID=36382695
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2004300667A Expired - Fee Related JP4292137B2 (en) | 2004-10-14 | 2004-10-14 | Transmission electron microscope equipment |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4292137B2 (en) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4842875B2 (en) * | 2007-03-30 | 2011-12-21 | 株式会社日立ハイテクノロジーズ | electronic microscope |
| KR101497105B1 (en) * | 2013-08-20 | 2015-03-03 | 구정회 | Electron microscope and method for processing image using the sem |
| JP6955270B2 (en) | 2016-03-30 | 2021-10-27 | 大学共同利用機関法人自然科学研究機構 | Phase difference transmission electron microscope device |
-
2004
- 2004-10-14 JP JP2004300667A patent/JP4292137B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2006114348A (en) | 2006-04-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TW202318464A (en) | Multi-beam charged particle microscope or system and method of operating the same | |
| JP2006520022A5 (en) | ||
| JP2017083301A (en) | Pattern inspection method and pattern inspection device | |
| JP2000277417A (en) | Charged particle beam exposure apparatus and device manufacturing method using the apparatus | |
| TW202015090A (en) | Multi-electron beam image acquisition apparatus, and multi-electron beam image acquisition method | |
| US20200395189A1 (en) | Aberration corrector and multiple electron beam irradiation apparatus | |
| US20170125208A1 (en) | Pattern inspection apparatus and pattern inspection method | |
| US4788425A (en) | Optical axis adjusting apparatus for electron microscope | |
| KR20210002360A (en) | Charge control device for systems with multiple electron beams | |
| JP4292137B2 (en) | Transmission electron microscope equipment | |
| JP5591617B2 (en) | Charged particle beam apparatus and control method of the apparatus | |
| JPH03291841A (en) | Length measuring method in electronic beam length measuring instrument | |
| WO2021205728A1 (en) | Multielectron beam inspection device and multielectron beam inspection method | |
| JP2007311053A (en) | Charged particle beam equipment | |
| JP2022016780A (en) | Pattern inspection device and pattern inspection method | |
| US7288763B2 (en) | Method of measurement accuracy improvement by control of pattern shrinkage | |
| JP2001118535A (en) | Transmission electron microscope | |
| JP2016110767A (en) | Charged particle beam device and image achieving method | |
| James et al. | Update on MEMS-based scanned beam imager | |
| JP2008186727A (en) | Charged particle beam equipment | |
| JP6080565B2 (en) | Charged particle beam equipment | |
| JP2021009780A (en) | Multi-electron beam image acquisition device and multi-electron beam image acquisition method | |
| JP4891977B2 (en) | electronic microscope | |
| JP4163373B2 (en) | Electron beam equipment | |
| JP4841407B2 (en) | electronic microscope |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070409 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081217 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090106 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090306 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090331 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090406 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120410 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120410 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130410 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140410 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |