Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP2918663B2 - Display device in microscope visual field and microscope image processing device including the same - Google Patents
[go: Go Back, main page]

JP2918663B2 - Display device in microscope visual field and microscope image processing device including the same - Google Patents

Display device in microscope visual field and microscope image processing device including the same

Info

Publication number
JP2918663B2
JP2918663B2 JP23550990A JP23550990A JP2918663B2 JP 2918663 B2 JP2918663 B2 JP 2918663B2 JP 23550990 A JP23550990 A JP 23550990A JP 23550990 A JP23550990 A JP 23550990A JP 2918663 B2 JP2918663 B2 JP 2918663B2
Authority
JP
Japan
Prior art keywords
microscope
particles
display
objective lens
liquid crystal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP23550990A
Other languages
Japanese (ja)
Other versions
JPH04116512A (en
Inventor
秀之 堀内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP23550990A priority Critical patent/JP2918663B2/en
Publication of JPH04116512A publication Critical patent/JPH04116512A/en
Application granted granted Critical
Publication of JP2918663B2 publication Critical patent/JP2918663B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Investigating Or Analysing Biological Materials (AREA)
  • Microscoopes, Condenser (AREA)
  • Liquid Crystal (AREA)

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は顕微鏡視野内表示装置及びこれを含む顕微鏡
画像処理装置に関し、特に光学顕微鏡等の視野内におい
て画像、パターン、文字等の表示を行う機能を有した顕
微鏡視野内表示装置とこれを含む顕微鏡画像処理装置に
関するものである。
Description: BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a display device in a microscope field of view and a microscope image processing apparatus including the same, and in particular, displays images, patterns, characters, etc. in a field of view of an optical microscope or the like. The present invention relates to a display device within a visual field of a microscope having a function and a microscope image processing device including the display device.

〔従来の技術〕[Conventional technology]

従来、光学装置、カメラ、光学顕微鏡等の光学機器に
おいて、操作者が覗き見る視野内の周辺部分に表示部を
設け、写真の撮影や顕微鏡による検査に関する情報を表
示する構成を有したものがある。これらの光学機器とし
ては、例えば特公昭37-3182号公報、実公昭43-4118号公
報、及び特開昭55-134816号公報などに開示されてい
る。
2. Description of the Related Art Conventionally, some optical devices, such as an optical device, a camera, and an optical microscope, have a configuration in which a display unit is provided in a peripheral part in a visual field that an operator peeks, and information about photographing and inspection by a microscope is displayed. . These optical devices are disclosed in, for example, Japanese Patent Publication No. 37-3182, Japanese Utility Model Publication No. 43-4118, and Japanese Patent Application Laid-Open No. 55-134816.

上記視野内表示装置を備えた光学機器では、表示部が
光学系の視野を妨げないように組込まれ、表示部におけ
る表示の仕方としてはランプの点滅、光学像の一部、メ
ータ針等を使用している。このような視野内表示装置に
より、光学機器を操作し観察を行う者に対し機器操作に
ついての各種情報を提供している。また視野内表示装置
で提供される表示情報は多岐にわたっている。
In the optical device having the in-field display device, the display unit is incorporated so as not to obstruct the field of view of the optical system, and the display unit uses a blinking lamp, a part of an optical image, a meter hand, and the like. doing. With such a display device in the visual field, various information about the operation of the device is provided to a person who operates and observes the optical device. Also, the display information provided by the in-view display device is diversified.

〔発明が解決しようとする課題〕[Problems to be solved by the invention]

しかしながら上記従来の視野内表示装置では、表示部
が光を透過しないように形成されているので、当該視野
を妨げないために当該表示部は視野の周辺部に限定され
る。その結果、表示内容としては簡単なものに制限さ
れ、複雑且つ高度な文字情報や視野内物体を指示するた
めの図形を視野内に入れることができないという不具合
を有する。また視野内にパターンを入れる限定された用
途として、顕微鏡の接眼レンズ付近又は結像位置に十字
線や寸法線パターンを描いたガラスを設置して利用して
いるものも存在する。しかし、このような視野内に入れ
たガラスに印刷されたパターンによる表示では、使用目
的も大きな制限を受けるという不具合を有する。
However, in the above-mentioned conventional in-view display device, since the display unit is formed so as not to transmit light, the display unit is limited to a peripheral portion of the view so as not to obstruct the view. As a result, the display contents are limited to simple ones, and there is a problem that complicated and sophisticated character information and graphics for indicating an object in the visual field cannot be put in the visual field. Further, as a limited use for putting a pattern in a visual field, there is a case where a glass in which a cross line or a dimension line pattern is drawn is installed near an eyepiece of a microscope or an image forming position. However, such a display using a pattern printed on glass placed in the field of view has a disadvantage that the purpose of use is greatly restricted.

上記に対して、特定な光学応用装置ではもっと広い内
容で且つ高い機能を有した視野内表示を行うことが要求
される。以下において、その一例を詳述する。
On the other hand, a specific optical application device is required to perform display in a visual field with a wider content and a higher function. An example will be described below in detail.

例えば、パターン認識手法を用いた血液像自動分析装
置は、血液学検査における白血球分類、網赤血球計数、
赤血球形態検査のために使用される。血球の比率や数、
異常球の存在等の情報は、病気診断上重要である。この
装置では、光学顕微鏡像をTV撮像装置により画像入力
し、パターン認識の技術を使って血液細胞の形態学的特
徴を抽出し、識別処理を行う。またこの装置では、当該
装置が機械的にどうしても分類できない血球(すなわち
不明球、例えば血球のこわれたもの、染色カス、血球が
収縮したもの)が存在する場合、あるいは異常球が存在
する場合、これらの不明球や異常球の分類は、最終的
に、人による目視などを利用して人が判断、識別するよ
うになっている。このような不明球や異常球は1つの検
体にかならず数個存在する。
For example, a blood image automatic analyzer using a pattern recognition method is used for leukocyte classification, reticulocyte counting,
Used for red blood cell morphology tests. The percentage and number of blood cells,
Information such as the presence of abnormal spheres is important for disease diagnosis. In this device, an optical microscope image is input as an image by a TV image pickup device, and morphological features of blood cells are extracted using a pattern recognition technique, and identification processing is performed. Also, in this device, when there are blood cells that cannot be classified by the device mechanically (that is, unknown spheres, for example, broken blood cells, stained scum, blood cells contracted), or when abnormal spheres are present, The classification of unknown spheres and abnormal spheres is ultimately performed by a person using visual observation by a person. There are always several unknown or abnormal spheres in one specimen.

血液像自動分析装置における不明球や異常球の再検
査、再入力の手順は以下のように行われる。再入力対象
の血球IDを決め、その血球を顕微鏡下に再現すると共
に、CRTディスプレイ上に対象血液像と装置が判定した
結果とを表示し、CRT上に表示された対象血液像を観察
するか又は直接に顕微鏡を観察することにより、人の判
断としての血球名を当該装置に入力する。CRT画像は分
解能、色再現生で顕微鏡像に劣るから、判定の困難な血
球では顕微鏡観察が必須となる。
The procedure of reexamination and reinput of an unknown sphere or abnormal sphere in the automatic blood image analyzer is performed as follows. Determine the blood cell ID of the re-input target, reproduce the blood cell under the microscope, display the target blood image and the result determined by the device on the CRT display, and observe the target blood image displayed on the CRT. Alternatively, by directly observing the microscope, the name of the blood cell as a human judgment is input to the device. CRT images are inferior to microscope images in resolution and color reproduction, so microscopic observation is essential for blood cells that are difficult to determine.

前記の状況では、人はCRT画面で装置による判定結果
と血液画像を見、続いて顕微鏡を観察するという2つの
動作を繰返えす必要がある。場合によっては全血液を見
直すこともあり、操作性は良くない。
In such a situation, a person needs to repeat the two operations of viewing the determination result by the device and the blood image on the CRT screen, and then observing the microscope. In some cases, the whole blood is reviewed, and the operability is not good.

操作性を良くするには、顕微鏡視野内に一連の作業を
行うのに必要となるデータ及び情報と、対象血球を指示
する表示が必要である。そのためには、血液標本にID番
号、何番目の血球を処理しているかを示す血球番号、本
装置が判定した血球名、更に観察者が判定した血球名が
表示されていることが必要である。人の判定結果は人が
入力した結果の確認のためである。更に視野中にはTV撮
像装置の画像取込み範囲、複数血球があるときの処理対
象血球を示す表示が必要である。
In order to improve operability, data and information necessary for performing a series of operations in a microscope field of view and a display indicating a target blood cell are required. For that purpose, it is necessary for the blood sample to display an ID number, a blood cell number indicating which blood cell is being processed, a blood cell name determined by the present apparatus, and a blood cell name determined by the observer. . The judgment result of the person is for confirming the result input by the person. Further, in the visual field, it is necessary to display an image capturing range of the TV imaging device and a blood cell to be processed when there are a plurality of blood cells.

加えて以上の表示は、必要な時に表示され、それ以外
では表示が消え、顕微鏡視野全体がこれらの表示により
妨げられないようにする必要がある。また接眼レンズの
倍率を変更した時には、表示文字のサイズ等も変更する
方が良い。文字表示が視野周辺にあると、眼球の移動の
ため、目が疲労し長時間の作業は続けることができない
からである。
In addition, these displays need to be displayed when needed, otherwise disappear and the entire microscope field of view must not be obstructed by these displays. Further, when the magnification of the eyepiece is changed, it is better to change the size of the display characters and the like. This is because if the character display is located around the visual field, the eyes become tired due to the movement of the eyeball, and long-term work cannot be continued.

本発明の目的は、前記問題及び要求に鑑み、操作性を
高めるための十分な情報を観測視野内に適切な配置で表
示することができ、また必要とされる適切なタイミング
で表示することができると共に消すこともでき、更に観
察者の眼球に疲労を与えない表示機能を有するようにし
た視野内表示装置を提供することにある。
In view of the above problems and demands, it is an object of the present invention to be able to display sufficient information for improving operability in an appropriate arrangement in an observation field of view, and to display it at an appropriate timing as required. It is an object of the present invention to provide a display device in a visual field which has a display function which can be erased together with the display, and which does not cause fatigue of an observer's eyeball.

〔課題を解決するための手段〕[Means for solving the problem]

本発明に係わる第1の顕微鏡画像処理装置は、粒子を
自動分析する顕微鏡画像処理装置において、粒子を有す
る試料が配置される試料ステージと、上記ステージ上に
配置された試料を拡大する対物レンズと、上記対物レン
ズによって拡大された試料を撮像する撮像手段と、上記
撮像手段により撮像された試料中の粒子の種類を識別す
る識別部と、上記対物レンズの結像位置に配置され、透
明電極を有する液晶表示手段と、上記識別部により識別
された結果を記憶し、上記試料ステージを移動制御し
て、上記記憶した結果が得られた粒子の画像を上記対物
レンズによって拡大させて再現させるとともに、再現さ
れた粒子の識別結果を上記液晶表示手段に表示させる制
御手段と、上記液晶表示手段によって表示された粒子の
識別結果を観察者が見直し訂正するための入力手段と、
を備え、上記観察者により訂正された識別結果は、上記
制御手段により記憶されるとともに、液晶表示手段に表
示される。
A first microscope image processing apparatus according to the present invention is a microscope image processing apparatus for automatically analyzing particles, comprising: a sample stage on which a sample having particles is arranged; and an objective lens for enlarging the sample arranged on the stage. Imaging means for imaging the sample magnified by the objective lens, an identification unit for identifying the type of particles in the sample imaged by the imaging means, and a transparent electrode disposed at an imaging position of the objective lens. With the liquid crystal display means having, storing the result identified by the identification unit, controlling the movement of the sample stage, and reproducing the image of the particles obtained by the stored result is enlarged by the objective lens by the objective lens, A control means for displaying the reproduced particle identification result on the liquid crystal display means; and an observer viewing the particle identification result displayed by the liquid crystal display means. Input means for correcting,
The identification result corrected by the observer is stored by the control means and displayed on the liquid crystal display means.

本発明に係わる第2の顕微鏡画像処理装置は、第1の
構成において、上記再現された粒子の画像中に他の複数
の粒子が存在する場合には、上記制御手段は、上記識別
結果が得られた粒子を指示する表示を行う。
In the second microscope image processing apparatus according to the present invention, in the first configuration, when another plurality of particles are present in the reproduced particle image, the control unit obtains the identification result. A display indicating the specified particles is performed.

本発明に係わる第3の顕微鏡画像処理装置は、第1又
は第2の構成において、上記試料は血液である。
In a third microscope image processing apparatus according to the present invention, in the first or second configuration, the sample is blood.

本発明に係わる第1の顕微鏡視野内表示装置は、試料
を拡大する対物レンズと、この対物レンズによって拡大
された試料を撮像する撮像手段と、この撮像手段により
撮像された試料中の粒子の種類を識別する識別部と、こ
の識別部により識別された結果を記憶し、記憶した結果
が得られた粒子の画像を上記対物レンズによって拡大さ
せて再現させる制御手段とを有する顕微鏡画像処理装置
の上記対物レンズの結像位置に配置される顕微鏡視野内
表示装置において、透明電極と、上記対物レンズによっ
て再現された粒子の識別結果を表示する表示部とを有す
る液晶表示手段と、を備え、上記液晶表示手段によって
表示された粒子の識別結果が観察者により見直し訂正さ
れた場合には、この訂正された識別結果が、上記液晶表
示手段の表示部に表示されることを特徴とする。
A first in-microscope display device according to the present invention includes an objective lens for enlarging a sample, an imaging unit for imaging the sample enlarged by the objective lens, and a type of particles in the sample imaged by the imaging unit. And a control unit for storing the result identified by the identifying unit and storing the result of the particle obtained by enlarging and reproducing the image of the particle obtained by the objective lens with the objective lens. A display device in a visual field of a microscope arranged at an image forming position of an objective lens, comprising: a liquid crystal display unit having a transparent electrode and a display unit for displaying a result of identification of particles reproduced by the objective lens; If the identification result of the particles displayed by the display means is reviewed and corrected by the observer, the corrected identification result is displayed on the display section of the liquid crystal display means. Is the fact characterized.

〔作用〕[Action]

本発明による顕微鏡視野内表示装置では、顕微鏡の対
物レンズによる結像位置に、その像と重ね合わせるよう
に結晶表示部を設置し、顕微鏡像と液晶表示パターン部
の表示内容がオーバーラップして見えるように構成され
る。特に、接眼レンズ視野全域が文字、パターン表示と
して使用可能なため、従来の表示装置の如く視野周辺に
限定されない。しかも、これらの表示をON/OFFすること
により、表示が透明になるように切換えることができ、
通常の顕微鏡観察では、液晶表示部を表示動作させる必
要がないので、表示を透明にする。表示不要時には表示
パターン部の影響は受けない。この場合は、表示を消す
打消し手段で液晶に印加する電圧を低減し、素子の上下
の偏光板の偏光方向に液晶による偏光方向を一致させ
る。このようにすれば、対物レンズによる物体像だけを
観察することができる。かかる表示装置により、外部付
加装置からのデータを表示し、データの確認を顕微鏡接
眼レンズから目を離さずに行うことができ、装置操作性
が向上する。
In the display device in the field of view of the microscope according to the present invention, the crystal display unit is installed at the position of the image formed by the objective lens of the microscope so as to overlap the image, and the microscope image and the display content of the liquid crystal display pattern unit appear to overlap. It is configured as follows. In particular, since the entire field of view of the eyepiece can be used for displaying characters and patterns, it is not limited to the vicinity of the field of view unlike a conventional display device. Moreover, by turning on / off these displays, the display can be switched to be transparent,
In normal microscopic observation, the display is made transparent because there is no need to operate the liquid crystal display. When no display is required, the display pattern portion does not affect the display. In this case, the voltage applied to the liquid crystal is reduced by the canceling means for erasing the display, and the polarization direction of the liquid crystal is made to coincide with the polarization directions of the polarizing plates above and below the element. In this way, only the object image by the objective lens can be observed. With such a display device, data from the external additional device can be displayed, and the data can be confirmed without keeping an eye on the microscope eyepiece, thereby improving the operability of the device.

本発明よる顕微鏡視野内表示装置を前述の血液像自動
分析装置に適用した場合には、表示パターン部として
は、TV撮像装置による画像取込領域を示すパターン、画
像処理で実際に処理している対象血球を示す表示、血球
番号、装置が判定した血球名称、人が押鉛操作で入力し
た血球名称、更に必要に応じて表示している血球のXYス
テージ上の位置を示すXY座標等を表示する。
When the display device in the visual field of the microscope according to the present invention is applied to the above-described automatic blood image analyzer, the display pattern portion is actually processed by a pattern indicating an image capturing area by the TV imaging device, image processing. Display indicating the target blood cell, blood cell number, blood cell name determined by the device, blood cell name input by human pushing operation, and XY coordinates indicating the position of the displayed blood cell on the XY stage as needed I do.

本発明による顕微鏡画像処理装置では、対物レンズに
よる実像位置に液晶表示部と、顕微鏡画像分析系の分析
結果を、当該表示部に表示し、更にその分析結果を見直
す手段とにより、分析対象物体像を見ながら見直し作業
等を行うことが可能である。対象物体像の再現、画像分
析データの表示、見直し入力データの表示を重ねて見る
ことができる。
In the microscope image processing apparatus according to the present invention, the liquid crystal display unit at the real image position by the objective lens and the analysis result of the microscope image analysis system are displayed on the display unit, and the means for reviewing the analysis result further includes an object image to be analyzed. It is possible to carry out review work etc. while watching. The reproduction of the target object image, the display of the image analysis data, and the display of the review input data can be viewed in an overlapping manner.

前述の装置構成によって白血球分類、網赤血球処理、
赤血球形態などの血液像検査を行う場合、操作性を向上
することができる。
Leukocyte classification, reticulocyte processing,
When performing a blood image test such as a red blood cell morphology, operability can be improved.

また、複数の表示パターンを有し、それらを切換える
ことにより、複数パターンの中の一つ又は複数パターン
の組合せの表示を行うことができ、顕微鏡視野内の操作
が向上する。
In addition, by having a plurality of display patterns and switching between them, one of the plurality of patterns or a combination of a plurality of patterns can be displayed, and the operation in the visual field of the microscope is improved.

〔実施例〕〔Example〕

以下に、本発明の実施例を添付図面に基づいて説明す
る。
Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.

第1図は本発明に係る顕微鏡視野内表示装置及び顕微
鏡画像処理装置の一例を示し、特に、血液像自動分析装
置の光学顕微鏡に適用した構成を示している。第1図に
示された装置構成は、大きく分けて光学顕微鏡部、顕微
鏡制御部、画像入力系、血球識別判定部の4つの部分か
ら構成されている。
FIG. 1 shows an example of a display device in a microscope visual field and a microscope image processing device according to the present invention, and particularly shows a configuration applied to an optical microscope of an automatic blood image analyzer. The apparatus configuration shown in FIG. 1 is roughly divided into four parts: an optical microscope section, a microscope control section, an image input system, and a blood cell identification determination section.

1は光学顕微鏡のXYステージ2にセットされた血液塗
沫染色標本であり、この標本1は、対物レンズ3によっ
て拡大され、実像位置4に結像される。光学顕微鏡XYス
テージ2をX方向とY方向に連続的に移動させ、一次元
イメージセンサ10の一次元画像出力信号の大小から処理
対象である白血球を検出し、次にその検出した白血球を
顕微鏡視野の中央に移動させ、XYステージ2を停止させ
る。次に同一の一次元イメージセンサ10の出力信号を使
って、自動焦点調節制御部11により正しく実像位置4に
像が結像される。また像は、同じくビームスプリッタ5
によりTV撮像装置6の撮像面に結像するように調整され
ている。
Reference numeral 1 denotes a blood smear-stained specimen set on an XY stage 2 of an optical microscope. The specimen 1 is magnified by an objective lens 3 and is imaged at a real image position 4. The XY stage 2 of the optical microscope is continuously moved in the X and Y directions to detect the white blood cells to be processed from the magnitude of the one-dimensional image output signal of the one-dimensional image sensor 10, and the detected white blood cells are then viewed by the microscope. And stop the XY stage 2. Next, using the output signal of the same one-dimensional image sensor 10, an image is correctly formed at the real image position 4 by the automatic focus adjustment controller 11. The image is also the beam splitter 5
Is adjusted so that an image is formed on the image pickup surface of the TV image pickup device 6.

TV撮像装置6により電気信号に変換した2次元画像デ
ータについて、血球識別部7において血球分類に必要な
特徴抽出と、その特徴抽出データからパターン認識法に
よる血球分類処理が行われる。システム全体の制御は制
御部8で行われる。血球画像の表示装置及び入出力表示
装置として、CRTディスプレイ9、入力端末部13、出力
装置14が設けられる。ある所定の血球数を処理すると、
分類識別結果を出力装置14が出力する。
With respect to the two-dimensional image data converted into the electric signal by the TV imaging device 6, the blood cell identification unit 7 performs a feature extraction necessary for the blood cell classification, and performs a blood cell classification process by a pattern recognition method from the extracted feature data. The control of the entire system is performed by the control unit 8. A CRT display 9, an input terminal unit 13, and an output device 14 are provided as a blood cell image display device and an input / output display device. When processing a certain number of blood cells,
The output device 14 outputs the classification identification result.

光学顕微鏡は前述した対物レンズ3と、接眼レンズ15
及び鏡筒16とからなり、通常は3〜4個の眼鏡筒を使用
し、目視用、TV撮像系及び一次元イメージセンサ系の各
像の取出しに使用する。XYステージ2の制御はXYステー
ジ制御部12で行う。
The optical microscope includes the objective lens 3 and the eyepiece 15 described above.
And three or four spectacle tubes, which are used for visual observation, TV image pickup system and one-dimensional image sensor system. The XY stage 2 is controlled by the XY stage control unit 12.

一つの血液標本の分類識別処理が終了すると、観察者
による識別結果の見直しは次のように行われる。識別し
た血球には、それぞれ血球の番号と血液塗沫染色標本上
のXY座標と分類結果とが一組のデータとして与えられ、
これらのデータは制御部8に格納される。そして、これ
らのデータに基づいて各血球像を顕微鏡の視野上に再現
し、次いで観察者はこの血球像を接眼レンズ15を介して
見て、観察者の識別結果を入力端末部13から入力し、識
別結果の修正を行う。
When the classification and identification processing of one blood sample is completed, the identification result is reviewed by the observer as follows. The identified blood cells are given the number of blood cells, the XY coordinates on the blood smear stained sample, and the classification result as a set of data,
These data are stored in the control unit 8. Then, based on these data, each blood cell image is reproduced on the field of view of the microscope, and then the observer looks at the blood cell image through the eyepiece 15, and inputs the identification result of the observer from the input terminal unit 13. Correct the identification result.

次に、顕微鏡視野内表示部17について説明する。顕微
鏡視野内表示部17は、対物レンズ3によって血球像が形
成される実像位置4に配置された液晶表示素子で構成さ
れる。この液晶表示素子の前後に透明電極、液晶用ガラ
ス基板、その外側に偏光板があり、透明電極に電界を印
加することにより、液晶の複屈折性の変化を生じさせ、
電極部分の光透過率が不透明になる。これらの液晶表示
装置素子自体の構成は既に知られているので、ここでは
詳述しない。液晶表示素子で構成される顕微鏡視野内表
示部17は、液晶表示素子駆動部18によって駆動される。
Next, the display section 17 within the visual field of the microscope will be described. The display unit 17 in the microscope visual field is constituted by a liquid crystal display element arranged at a real image position 4 where a blood cell image is formed by the objective lens 3. Before and after this liquid crystal display element, there is a transparent electrode, a glass substrate for liquid crystal, a polarizing plate outside thereof, and by applying an electric field to the transparent electrode, a change in the birefringence of the liquid crystal is caused.
The light transmittance of the electrode portion becomes opaque. The configuration of these liquid crystal display device elements themselves is already known, and will not be described in detail here. The display unit 17 within the visual field of the microscope constituted by the liquid crystal display element is driven by the liquid crystal display element driving unit 18.

顕微鏡視野内表示部17の表示内容の一例を第2図及び
第3図に示す。第2図において20が白血球、21が赤血球
を表わす。TV撮像装置6の画像取込み範囲を22、実際に
血球の特徴抽出を行っている部分を破線領域23で表示し
ている。顕微鏡視野内表示部17において、画像取込み範
囲22の下側位置に、血球番号24、装置識別結果25、観察
者が入力端末部13から入力した血球名26、及び上側位置
に標本番号27が表示されている。以上の表示は、観察者
による目視判定作業を行うときだけ、顕微鏡視野に表示
されるようにし、その他の通常の時には表示されないよ
うにする。これは、液晶電極に電圧を印加しないことに
より行うことができる。液晶表示用電極が透明電極で作
られているため、通常の顕微鏡観察ではこの電極パター
ンの影響は小さい。血球番号や識別結果等はドット表示
部によって構成され、それぞれ文字及び数字が表示され
る。第3図には、血球番号24、装置識別結果25、入力し
た血球名26の具体的表示例を示している。この図示例の
場合、152番目の血球は、装置識別結果がEOS(好酸球)
であり、観察者の判断はNEU(好中球)であることを表
示している。このように、入力端末部13から人(観察
者)が入力した血球が顕微鏡視野内にて表示され、入力
データの確認を、顕微鏡の接眼レンズ15から目を離すこ
となく行うことができる。装置による識別結果と観察者
による判断が一致した場合は、入力端末部13よりキーイ
ンし、次の処理に移る。
2 and 3 show an example of the display contents of the display unit 17 within the microscope field of view. In FIG. 2, 20 represents white blood cells and 21 represents red blood cells. The image capturing range of the TV imaging device 6 is displayed as 22, and the part where the blood cell feature is actually extracted is indicated by a broken line area 23. In the display unit 17 within the microscope visual field, the blood cell number 24, the device identification result 25, the blood cell name 26 input from the input terminal unit 13 by the observer, and the sample number 27 are displayed at the upper position at the lower position of the image capturing range 22. Have been. The above display is displayed in the visual field of the microscope only when performing the visual judgment work by the observer, and is not displayed in other normal times. This can be performed by applying no voltage to the liquid crystal electrode. Since the electrode for liquid crystal display is made of a transparent electrode, the influence of this electrode pattern is small in ordinary microscopic observation. The blood cell number, the identification result, and the like are constituted by a dot display unit, and letters and numbers are displayed, respectively. FIG. 3 shows a specific display example of the blood cell number 24, the device identification result 25, and the input blood cell name 26. In the illustrated example, the 152th blood cell has an EOS (eosinophil) identification result.
And the observer's judgment indicates that it is a NEU (neutrophil). In this way, blood cells input by a person (observer) from the input terminal unit 13 are displayed in the field of view of the microscope, and input data can be confirmed without removing the eye from the eyepiece 15 of the microscope. When the identification result by the device and the judgment by the observer match, key-in is performed from the input terminal unit 13, and the process proceeds to the next process.

以上のように、観察者は顕微鏡の接眼レンズ15から目
を離すことなく、血球識別結果の確認と、再入力、及び
血球番号による作業の進行具合の判断を行うことがで
き、これらの作業以外では視野上の表示を消すことが可
能であり、この場合には表示パターンの影響を受けるこ
となく顕微鏡観察を行うことができる。加えて、顕微鏡
視野上に前述した各種表示を実現できるため、視野内で
の目の移動が少なくなり、目の疲労を低減することがで
きる。またTV撮像装置6の取込み視野内に処理対象が複
数個ある場合には、現在処理対象となっている血球がど
れであるかを制御部8で指示することができ、この指示
に基づき血球にマークを表示すると、観察者の判断の正
確さを増すことができる。当該マークの表示方法とし
て、血球の特徴抽出を行っている部分23のパターンで表
示するのが良いが、液晶表示電極の構成、液晶駆動部を
複雑にしないためにドット状又はカーソル状の簡単な表
示形式でも十分である。
As described above, the observer can check the blood cell identification result, re-enter, and judge the progress of the work based on the blood cell number without taking his eyes off the eyepiece 15 of the microscope. In this case, the display on the visual field can be erased, and in this case, the microscope observation can be performed without being affected by the display pattern. In addition, since the various displays described above can be realized on the microscope visual field, the movement of the eyes in the visual field is reduced, and the eyestrain can be reduced. When there are a plurality of processing targets in the field of view of the TV imaging device 6, the control unit 8 can instruct which blood cells are currently being processed, and based on this instruction, the blood cells are displayed. Displaying the mark can increase the accuracy of the observer's judgment. As a method of displaying the mark, it is preferable to display the pattern of the portion 23 where the characteristic of the blood cell is extracted. However, in order to not complicate the configuration of the liquid crystal display electrode and the liquid crystal driving unit, a simple dot or cursor shape is used. The display format is also sufficient.

双眼形式の接眼レンズを有する光学顕微鏡タイプで
は、前記表示パターンを接眼レンズの片方にセットする
ことで十分機能を発揮することができる。
In an optical microscope type having a binocular eyepiece, a sufficient function can be exhibited by setting the display pattern on one of the eyepieces.

次に第4図及び第5図に基づき本発明の第2実施例に
ついて説明する。液晶表示パターンが複雑になると、液
晶表示素子駆動部18と顕微鏡視野内表示部17の間の配線
はより複雑になり、顕微鏡内外に表示部と駆動部を別々
に構成することは得策でない。そこで第4図では、顕微
鏡の鏡筒16内に表示部17と駆動部18を一体にしたものを
内蔵した構成を示す。第4図において、制御部8からの
表示データ及び表示制御信号は信号変換部31でシリアル
信号に変換され、その信号をもとにLED素子32の点滅に
よるON/OFF信号を発生する。光ファイバ33により駆動部
18に光信号が入力される。第5図は駆動部の詳細構成を
示し、光ファイバ33で伝送された光信号は光電変換部34
で電気信号に再変換され、表示駆動回路35を制御するよ
うに構成される。駆動電源は内蔵された電源36である。
Next, a second embodiment of the present invention will be described with reference to FIGS. When the liquid crystal display pattern becomes complicated, the wiring between the liquid crystal display element drive unit 18 and the display unit 17 within the microscope field of view becomes more complicated, and it is not advisable to separately configure the display unit and the drive unit inside and outside the microscope. Therefore, FIG. 4 shows a configuration in which a display unit 17 and a driving unit 18 are integrated in a lens barrel 16 of the microscope. In FIG. 4, the display data and the display control signal from the control unit 8 are converted into a serial signal by a signal conversion unit 31, and based on the signal, an ON / OFF signal is generated by blinking of the LED element 32. Drive unit by optical fiber 33
An optical signal is input to 18. FIG. 5 shows the detailed configuration of the drive unit, and the optical signal transmitted through the optical fiber 33 is
Is reconverted into an electric signal, and is configured to control the display drive circuit 35. The driving power supply is a built-in power supply 36.

以上の構成によれば、顕微鏡視野内表示部17及び液晶
表示素子駆動部18が電気的に他の構成要素と絶縁され、
その結果電気的接続が不要となり、独立した構造になる
ため、表示部17の取出し、交換、調整が容易になる。こ
の結果、従来より使われている寸法線が入っているマス
クパターンと同じ感覚で使用することができる。
According to the above configuration, the display unit 17 within the microscope field of view and the liquid crystal display element driving unit 18 are electrically insulated from other components,
As a result, electrical connection is not required and an independent structure is provided, so that removal, replacement, and adjustment of the display unit 17 are facilitated. As a result, it can be used with the same feeling as a mask pattern including a dimension line conventionally used.

次に第6図を参照して本発明の第3実施例について説
明する。前記第1実施例において、血球見直し処理を行
っている間、第6図に示すように、TV撮像装置6による
画像取込み範囲22と数字・文字表示部24,25,26,27以外
の部分を不透明にする(斜線部で示す)と、観察者によ
る目視観察が画像取込み範囲22に集中できる。また、双
眼形式の光学顕微鏡では、前述の表示パターンを1個づ
つ各接眼レンズに設置するには、各パターンの位置、回
転等の調整合わせが十分にできない問題が起こるが、片
方の接眼レンズには正規のパターンを表示させ、もう一
方の接眼レンズには前述した簡単なマスク部分のみから
なる表示パターンを表示させると、調整の複雑さを解消
することができる。
Next, a third embodiment of the present invention will be described with reference to FIG. In the first embodiment, while performing the blood cell review process, as shown in FIG. 6, the portions other than the image capturing range 22 and the number / character display portions 24, 25, 26, and 27 by the TV imaging device 6 are displayed. By making it opaque (shown by a shaded portion), visual observation by an observer can be concentrated on the image capturing range 22. In addition, in the binocular optical microscope, in order to install the above-described display patterns one by one on each eyepiece, there is a problem that the position and rotation of each pattern cannot be adjusted sufficiently. By displaying a regular pattern on the other eyepiece and displaying a display pattern consisting of only the above-described simple mask portion on the other eyepiece, the complexity of adjustment can be eliminated.

本発明に係る視野内表示装置については、その他に次
に示すようないくつかの変更実施例を考えることができ
る。
For the in-view display device according to the present invention, several other modified embodiments as described below can be considered.

第1実施例の表示画面の中に顕微鏡XYステージ2の現
在位置を示すXY座標を表示するように構成することがで
きる。この構成によれば、必要なときに当該現在位置を
再現することができる。前記XY座標はXYステージの駆動
パルス数、ロータリエンコーダの読み等で得ることがで
きる。
The XY coordinates indicating the current position of the microscope XY stage 2 can be displayed on the display screen of the first embodiment. According to this configuration, the current position can be reproduced when necessary. The XY coordinates can be obtained from the number of drive pulses of the XY stage, reading from a rotary encoder, and the like.

また光学顕微鏡による像が暗いため液晶表示が十分な
良好なコントラストで見えない場合、鏡筒内の補助光源
を点灯させて表示部が見えるようにすることも可能であ
る。このような構成の場合、顕微鏡画像のコントラスト
が悪化するので、表示部を見る必要のない時には補助光
源を消灯することが好ましい。
If the image obtained by the optical microscope is dark and the liquid crystal display cannot be viewed with a sufficiently high contrast, the auxiliary light source in the lens barrel can be turned on so that the display unit can be viewed. In such a configuration, the contrast of the microscope image deteriorates. Therefore, it is preferable to turn off the auxiliary light source when it is not necessary to look at the display unit.

更に、前述した各実施例は血液像自動分析装置への適
用例を中心に説明したが、光学顕微鏡及びこれを含むそ
の他の光学機器にも適用可能である。また複数のパター
ン、目盛線、寸法線、寸法値等を必要に応じて切換える
手段、及び対物レンズ倍率を変更したときに寸法線、寸
法値を変化させる手段を設けるように構成すると、顕微
鏡像の寸法計測等が簡単になる。
Furthermore, each of the above-described embodiments has been described mainly with respect to an example of application to an automatic blood image analyzer, but the present invention is also applicable to an optical microscope and other optical devices including the same. Further, a plurality of patterns, a scale line, a dimension line, a means for switching a dimension value and the like as necessary, and a means for changing the dimension line and the dimension value when the objective lens magnification is changed are provided, so that a microscope image can be obtained. Dimension measurement becomes easy.

同様に接眼レンズの倍率が変更した場合にも、寸法線
等のきざみを細分したり、粗くすることができる表示手
段を設けることにより、測定にとって都合のよいパター
ンを選ぶことができる。
Similarly, even when the magnification of the eyepiece is changed, a pattern that is convenient for the measurement can be selected by providing a display unit that can subdivide or coarsen the dimension line or the like.

上記の構成は、液晶表示素子駆動部18に表示パターン
部の複数の表示パターンの少なくともいずれか1つを選
択し、切換える切換手段を備えることにより簡単に実現
することができる。
The above configuration can be easily realized by providing the liquid crystal display element driving section 18 with switching means for selecting and switching at least one of the plurality of display patterns of the display pattern section.

倍率の設定によって、パターンや文字の大きさが変化
させる場合、特に文字については、液晶電極の大きさ
や、ドット数の増減で対応することになる。
When the size of a pattern or a character is changed by setting the magnification, especially for a character, the size of the liquid crystal electrode or the number of dots is increased or decreased.

〔発明の効果〕〔The invention's effect〕

以上の説明で明らかなように本発明によれば、次のよ
うな効果が発揮される。
As apparent from the above description, according to the present invention, the following effects are exhibited.

(1)光学顕微鏡部分を備える光学機器において、光学
顕微鏡の視野にて光学像と各種情報を表示するための表
示パターンとを重ねて見ることができる。
(1) In an optical device provided with an optical microscope portion, an optical image and a display pattern for displaying various information can be viewed in an overlapping manner in a visual field of the optical microscope.

(2)従来、顕微鏡視野の周辺部に限られていた表示部
を大きく拡大し、全視野のうちいずれの箇所も表示パタ
ーンに利用することができる。
(2) The display portion, which was conventionally limited to the peripheral portion of the visual field of the microscope, is greatly enlarged, and any portion of the entire visual field can be used for the display pattern.

(3)目を離すことなく、必要な情報が顕微鏡視野内に
表示されるため、操作性の向上、処理速度の改善、手入
力データの確認ができる。
(3) Necessary information is displayed in the visual field of the microscope without taking your eyes off, so that operability, processing speed, and manual input data can be confirmed.

(4)対物レンズ又は接眼レンズ倍率の変更に応じて、
表示パターンを変化させる機能を付加できるため、顕微
鏡観察の応用範囲が拡大する。
(4) Depending on the change of the objective or eyepiece magnification,
Since the function of changing the display pattern can be added, the application range of microscopic observation is expanded.

(5)前記(2)(3)により、血液像自動分析装置に
おける人による目視見直し作業の正確度と作業性の向上
を達成することができる。
(5) According to the above (2) and (3), it is possible to improve the accuracy and workability of the visual review work by a human in the automatic blood image analyzer.

【図面の簡単な説明】[Brief description of the drawings]

第1図は本発明に係る顕微鏡視野内表示装置及び画像処
理装置を血液像自動分析装置の光学顕微鏡部分に適用し
た実施例を示す構成図、第2図は顕微鏡視野内表示装置
の表示態様の一例を示す図、第3図は表示情報の一例を
拡大して示した図、第4図は本発明に係る顕微鏡視野内
表示装置の第2実施例を示す構成図、第5図は表示駆動
装置の内部構成を示す構成図、第6図は顕微鏡視野の他
の表示態様を示す図である。 〔符号の説明〕 1……血液塗沫染色標本 2……光学顕微鏡XYステージ 3……対物レンズ 4……実像位置(結像位置) 5……ビームスプリッタ 6……TV撮像装置 7……血球識別部 8……制御部 13……入力端末部 15……接眼レンズ 17……顕微鏡視野内表示部 (液晶表示部) 18……液晶表示素子駆動部 24,25,26,27……表示パターン部
FIG. 1 is a block diagram showing an embodiment in which a display device in a microscope field of view and an image processing device according to the present invention are applied to an optical microscope part of an automatic blood image analyzer, and FIG. FIG. 3 is a diagram showing an example of display information in an enlarged manner, FIG. 4 is a configuration diagram showing a second embodiment of the display device within the visual field of the microscope according to the present invention, and FIG. FIG. 6 is a configuration diagram showing the internal configuration of the device, and FIG. 6 is a diagram showing another display mode of the visual field of the microscope. [Explanation of Signs] 1 ... Blood smear stained specimen 2 ... Optical microscope XY stage 3 ... Objective lens 4 ... Real image position (imaging position) 5 ... Beam splitter 6 ... TV imaging device 7 ... Blood cell Identification unit 8 Control unit 13 Input terminal unit 15 Eyepiece unit 17 Display unit within microscope field of view (liquid crystal display unit) 18 Liquid crystal display element drive unit 24, 25, 26, 27 Display pattern Department

Claims (4)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】粒子を自動分析する顕微鏡画像処理装置に
おいて、 粒子を有する試料が配置される試料ステージと、 上記ステージ上に配置された試料を拡大する対物レンズ
と、 上記対物レンズによって拡大された試料を撮像する撮像
手段と、 上記撮像手段により撮像された試料中の粒子の種類を識
別する識別部と、 上記対物レンズの結像位置に配置され、透明電極を有す
る液晶表示手段と、 上記識別部により識別された結果を記憶し、上記試料ス
テージを移動制御して、上記記憶した結果が得られた粒
子の画像を上記対物レンズによって拡大させて再現させ
るとともに、再現された粒子の識別結果を上記液晶表示
手段に表示させる制御手段と、 上記液晶表示手段によって表示された粒子の識別結果を
観察者が見直し訂正するための入力手段と、 を備え、上記観察者により訂正された識別結果は、上記
制御手段により記憶されるとともに、液晶表示手段に表
示されることを特徴とする顕微鏡画像処理装置。
1. A microscope image processing apparatus for automatically analyzing particles, comprising: a sample stage on which a sample having particles is arranged; an objective lens for enlarging the sample arranged on the stage; Imaging means for imaging the sample; an identification unit for identifying the type of particles in the sample imaged by the imaging means; a liquid crystal display means arranged at an image forming position of the objective lens and having a transparent electrode; The result identified by the unit is stored, and the movement of the sample stage is controlled, and the image of the particle obtained by the stored result is enlarged and reproduced by the objective lens, and the identification result of the reproduced particle is reproduced. Control means for displaying on the liquid crystal display means, and input means for an observer to review and correct the identification result of the particles displayed by the liquid crystal display means A microscope image processing apparatus, comprising: (a) and (b), wherein the identification result corrected by the observer is stored by the control unit and displayed on a liquid crystal display unit.
【請求項2】請求項1記載の顕微鏡画像処理装置におい
て、上記再現された粒子の画像中に他の複数の粒子が存
在する場合には、上記制御手段は、上記識別結果が得ら
れた粒子を指示する表示を行うことを特徴とする顕微鏡
画像処理装置。
2. The microscope image processing apparatus according to claim 1, wherein, when a plurality of other particles are present in the reproduced image of the particles, the control unit controls the particles having the identification result obtained. A microscope image processing apparatus that performs a display for instructing the user.
【請求項3】請求項1又は2記載の顕微鏡画像処理装置
において、上記試料は血液であることを特徴とする顕微
鏡画像処理装置。
3. The microscope image processing apparatus according to claim 1, wherein said sample is blood.
【請求項4】試料を拡大する対物レンズと、この対物レ
ンズによって拡大された試料を撮像する撮像手段と、こ
の撮像手段により撮像された試料中の粒子の種類を識別
する識別部と、この識別部により識別された結果を記憶
し、記憶した結果が得られた粒子の画像を上記対物レン
ズによって拡大させて再現させる制御手段とを有する顕
微鏡画像処理装置の上記対物レンズの結像位置に配置さ
れる顕微鏡視野内表示装置において、透明電極と、 上記対物レンズによって再現された粒子の識別結果を表
示する表示部とを有する液晶表示手段と、 を備え、上記液晶表示手段によって表示された粒子の識
別結果が観察者により見直し訂正された場合には、この
訂正された識別結果が、上記液晶表示手段の表示部に表
示されることを特徴とする顕微鏡視野内表示装置。
4. An objective lens for enlarging a sample, imaging means for imaging the sample magnified by the objective lens, an identification unit for identifying the type of particles in the sample imaged by the imaging means, Control means for storing the result identified by the section and enlarging and reproducing the image of the particles obtained by the stored result with the objective lens, and arranged at an image forming position of the objective lens of the microscope image processing apparatus. A display device for displaying the identification result of the particles reproduced by the objective lens, comprising: a transparent electrode; and a liquid crystal display unit having a display unit for displaying a result of the identification of the particles reproduced by the objective lens, wherein the identification of the particles displayed by the liquid crystal display unit is performed. When the result is reviewed and corrected by an observer, the corrected identification result is displayed on a display unit of the liquid crystal display means. Within the field display device.
JP23550990A 1990-09-06 1990-09-06 Display device in microscope visual field and microscope image processing device including the same Expired - Fee Related JP2918663B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23550990A JP2918663B2 (en) 1990-09-06 1990-09-06 Display device in microscope visual field and microscope image processing device including the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23550990A JP2918663B2 (en) 1990-09-06 1990-09-06 Display device in microscope visual field and microscope image processing device including the same

Publications (2)

Publication Number Publication Date
JPH04116512A JPH04116512A (en) 1992-04-17
JP2918663B2 true JP2918663B2 (en) 1999-07-12

Family

ID=16987052

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23550990A Expired - Fee Related JP2918663B2 (en) 1990-09-06 1990-09-06 Display device in microscope visual field and microscope image processing device including the same

Country Status (1)

Country Link
JP (1) JP2918663B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010032539A (en) * 2009-11-05 2010-02-12 Sysmex Corp Method and program for displaying blood cell sorting result
WO2013175683A1 (en) * 2012-05-24 2013-11-28 日本電気株式会社 Pathological diagnosis results assessment system, pathological diagnosis results assessment method, and pathological diagnosis results assessment device

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007240513A (en) * 2006-02-08 2007-09-20 Microdent:Kk Dental disease confirmation device
EP1986046B1 (en) * 2007-03-08 2014-07-16 Cellavision AB A method for determining an in-focus position and a vision inspection system
JP2018143433A (en) * 2017-03-03 2018-09-20 株式会社トプコン Ophthalmic observation apparatus and operating method thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010032539A (en) * 2009-11-05 2010-02-12 Sysmex Corp Method and program for displaying blood cell sorting result
WO2013175683A1 (en) * 2012-05-24 2013-11-28 日本電気株式会社 Pathological diagnosis results assessment system, pathological diagnosis results assessment method, and pathological diagnosis results assessment device
JPWO2013175683A1 (en) * 2012-05-24 2016-01-12 日本電気株式会社 Pathological diagnosis result determination system, pathological diagnosis result determination method, and pathological diagnosis result determination apparatus
US9383347B2 (en) 2012-05-24 2016-07-05 Nec Corporation Pathological diagnosis results assessment system, pathological diagnosis results assessment method, and pathological diagnosis results assessment device

Also Published As

Publication number Publication date
JPH04116512A (en) 1992-04-17

Similar Documents

Publication Publication Date Title
US11636627B2 (en) System for histological examination of tissue specimens
US9245317B2 (en) Optically enhanced digital imaging system
US7050622B2 (en) Image comparison apparatus, image comparison method, and program for causing computer to execute image comparison
JPH05130975A (en) Eyesight inspecting device
JP2014078008A (en) Method for defining laser microdissection region and associated laser microdissection system
US20070070498A1 (en) Observation apparatus and observation method
JP7253273B2 (en) Reproductive medical support system
US7566130B2 (en) Ophthalmologic image taking apparatus
JP2918663B2 (en) Display device in microscope visual field and microscope image processing device including the same
JP2002267935A (en) Lightness controller for superposition supplementary information on optical observation device
DE202020000635U1 (en) Binocular digital tube for a microscope
JPH0829694A (en) Microscope with image processor
JPWO2019225231A1 (en) Surgical information processing equipment, information processing methods and programs
CN211979318U (en) Augmented reality module for microscope and microscope comprising same
JPH08252224A (en) Ophthalmic equipment
JP5016348B2 (en) A subjective optometry device
CN112346233A (en) An Augmented Reality Module for Microscopy
US20020186178A1 (en) Optical observation apparatus provided with a system delivering information visually perceptible in the observation beam path
JP2004309768A (en) Microscope system
JP3152747B2 (en) Microscope system with macroscopic image function
US10264961B2 (en) Method for visualizing a membrane on a retina of an eye and surgical microscope for performing the method
JP7693533B2 (en) Microscope system, projection unit, and selection support method
JPH073195Y2 (en) Equipment operation training device
JPH0829693A (en) Microscope equipment
JPH08334699A (en) Microscope device with information display function

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080423

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 10

Free format text: PAYMENT UNTIL: 20090423

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 10

Free format text: PAYMENT UNTIL: 20090423

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100423

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees