JP5114003B2 - Fluorescence endoscope device - Google Patents
Fluorescence endoscope device Download PDFInfo
- Publication number
- JP5114003B2 JP5114003B2 JP2005321314A JP2005321314A JP5114003B2 JP 5114003 B2 JP5114003 B2 JP 5114003B2 JP 2005321314 A JP2005321314 A JP 2005321314A JP 2005321314 A JP2005321314 A JP 2005321314A JP 5114003 B2 JP5114003 B2 JP 5114003B2
- Authority
- JP
- Japan
- Prior art keywords
- fluorescence
- residue
- image
- wavelength
- spectrum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000005284 excitation Effects 0.000 claims description 58
- 238000001228 spectrum Methods 0.000 claims description 43
- 238000012545 processing Methods 0.000 claims description 42
- 238000002073 fluorescence micrograph Methods 0.000 claims description 28
- 238000002189 fluorescence spectrum Methods 0.000 claims description 22
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000001514 detection method Methods 0.000 claims description 11
- 230000003595 spectral effect Effects 0.000 claims description 8
- 230000001678 irradiating effect Effects 0.000 claims description 3
- 238000000034 method Methods 0.000 description 47
- 230000008569 process Effects 0.000 description 45
- 238000001444 catalytic combustion detection Methods 0.000 description 40
- 230000003902 lesion Effects 0.000 description 26
- 238000003384 imaging method Methods 0.000 description 18
- 238000005286 illumination Methods 0.000 description 16
- 239000003795 chemical substances by application Substances 0.000 description 15
- 230000004048 modification Effects 0.000 description 14
- 238000012986 modification Methods 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 14
- 238000003780 insertion Methods 0.000 description 9
- 230000037431 insertion Effects 0.000 description 9
- 238000005259 measurement Methods 0.000 description 8
- 230000004397 blinking Effects 0.000 description 6
- 239000013078 crystal Substances 0.000 description 6
- 230000010355 oscillation Effects 0.000 description 5
- LAJZODKXOMJMPK-UHFFFAOYSA-N tellurium dioxide Chemical compound O=[Te]=O LAJZODKXOMJMPK-UHFFFAOYSA-N 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000001839 endoscopy Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 229940079593 drug Drugs 0.000 description 2
- 238000000799 fluorescence microscopy Methods 0.000 description 2
- 238000012632 fluorescent imaging Methods 0.000 description 2
- 239000006096 absorbing agent Substances 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 210000001035 gastrointestinal tract Anatomy 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Endoscopes (AREA)
- Closed-Circuit Television Systems (AREA)
Description
本発明は、体腔内の蛍光観察を行うと共に、体腔内の残渣を検出する蛍光内視鏡装置に関する。 The present invention performs fluorescence observation in a body cavity, relates to a fluorescent endoscopic KagamiSo location for detecting the residue of the body cavity.
近年、医療分野において、体腔内を光学的に検査したり、必要に応じて処置具を用いて処置することができる内視鏡が広く用いられるようになった。
また、通常の可視領域で内視鏡検査する場合の他に、蛍光を用いて蛍光画像による内視鏡検査する場合にも用いられるようになった。
従来例として、例えば、特開平7−155285号公報と特開平8−224208号公報には、蛍光画像を得ることができる蛍光内視鏡装置が開示されている。
2. Description of the Related Art In recent years, endoscopes that can optically inspect a body cavity or perform treatment using a treatment tool as necessary have come to be widely used in the medical field.
Further, in addition to the case of performing an endoscopic examination in a normal visible region, it has come to be used when performing an endoscopic examination using a fluorescence image using fluorescence.
As conventional examples, for example, Japanese Patent Application Laid-Open No. 7-155285 and Japanese Patent Application Laid-Open No. 8-224208 disclose a fluorescence endoscope apparatus capable of obtaining a fluorescent image.
蛍光による内視鏡検査を行う場合には、病変部に蓄積し易い蛍光薬剤を患者等に投与し、蛍光内視鏡で患者等の体腔内、例えば消化管内を検査する時、残渣も蛍光を発生するため、残渣による影響が大きくなる場合がある。そして、観察している蛍光画像中における蛍光を発する部分が病変部に蓄積した蛍光薬剤による蛍光か、残渣によるものなのかの判定を、蛍光画像上では判断できない。
このため、蛍光画像中における蛍光を発する部分が病変部に蓄積した蛍光薬剤による蛍光か、残渣によるものかを識別して表示できることが非常に有用であることになる。また、残渣による蛍光像部分が蛍光画像による観察の際に邪魔になる場合もある。
When performing endoscopy using fluorescence, when a fluorescent agent that easily accumulates in a lesion is administered to a patient, etc., and the inside of a body cavity of the patient, such as the digestive tract, is examined with a fluorescence endoscope, the residue also becomes fluorescent. As a result, the influence of the residue may increase. In addition, it cannot be determined on the fluorescence image whether the fluorescence-emitting portion in the observed fluorescence image is due to the fluorescence agent accumulated in the lesion or due to the residue.
For this reason, it is very useful to be able to identify and display whether the fluorescence emitting portion in the fluorescence image is due to the fluorescent agent accumulated in the lesion or due to the residue . In addition, the fluorescent image portion due to the residue may interfere with the observation with the fluorescent image.
上記従来例は、蛍光画像による内視鏡検査を行うことができるが、蛍光画像上に残渣が混入したような場合、病変部に蓄積した蛍光薬剤によるものか、残渣によるものなのかの判定ができない欠点があった。 In the above conventional example, endoscopy can be performed with a fluorescence image. However, when a residue is mixed in the fluorescence image, it is determined whether the residue is due to a fluorescent agent accumulated in the lesion or due to the residue. There was a drawback that could not be done.
(発明の目的)
本発明は上述した点に鑑みてなされたもので、体腔内を蛍光撮像した場合における病変部の蛍光像部分と残渣の蛍光像部分を識別することができる蛍光内視鏡装置を提供する
ことを目的とする。
(Object of invention)
The present invention has been made in view of the above, to provide a fluorescence endoscope KagamiSo location capable of identifying a fluorescent image part and the fluorescent image portion of the residue of a lesion in the case of a body cavity and fluorescence imaging With the goal.
本発明の一態様の蛍光内視鏡装置は、生体の体腔内に励起光を照射する励起光照射手段と、前記励起光によって前記体腔から発生する蛍光を受光する蛍光受光手段と、受光された蛍光の情報から前記体腔の蛍光画像を生成する蛍光画像生成手段と、前記蛍光の蛍光信号スペクトルを生成するスペクトル生成手段と、前記蛍光信号スペクトルに基づき前記体腔内にある残渣を検出する残渣検出手段と、前記蛍光画像上における前記残渣の蛍光像の表示形態を変える残渣像処理手段と、を有し、前記残渣検出手段は、前記スペクトル生成手段で生成された、第1の波長帯域とこの第1の波長帯域の両側にこれよりも短波長の第2の波長帯域と長波長の第3の波長帯域とを有する3つの異なる蛍光の第1乃至第3の波長帯域の蛍光信号スペクトルを入力し、第1乃至第3の波長帯域の蛍光信号スペクトルそれぞれに対して第1乃至第3の閾値が設定され、第1の波長帯域の蛍光信号スペクトルのみが第1の閾値より大きく第2及び第3の蛍光信号スペクトルがそれぞれ第2及び第3の閾値より大きくない場合には、病変部の蛍光であると判定することを特徴とする。 The fluorescence endoscope apparatus according to one aspect of the present invention receives excitation light irradiation means for irradiating a body cavity of a living body with excitation light, fluorescence reception means for receiving fluorescence generated from the body cavity by the excitation light, and light reception Fluorescence image generation means for generating a fluorescence image of the body cavity from fluorescence information, spectrum generation means for generating a fluorescence signal spectrum of the fluorescence , and residue detection means for detecting a residue in the body cavity based on the fluorescence signal spectrum And a residue image processing means for changing a display form of the fluorescence image of the residue on the fluorescence image, wherein the residue detection means includes the first wavelength band generated by the spectrum generation means and the first wavelength band. Fluorescent signal spectra of first to third wavelength bands of three different fluorescences having a second wavelength band shorter than this wavelength and a third wavelength band longer than this wavelength on both sides of one wavelength band. The first to third thresholds are set for each of the fluorescence signal spectra in the first to third wavelength bands, and only the fluorescence signal spectrum in the first wavelength band is larger than the first threshold, and the second and third thresholds are set. When the third fluorescence signal spectrum is not larger than the second and third threshold values, respectively, it is determined that the fluorescence is a lesion part fluorescence.
本発明によれば、蛍光画像上において、病変部の蛍光像部分と残渣による蛍光像部分を識別できる。 According to the present invention, it is possible to distinguish a fluorescent image portion of a lesion from a fluorescent image portion due to a residue on a fluorescent image.
以下、図面を参照して本発明の実施例を説明する。 Embodiments of the present invention will be described below with reference to the drawings.
図1ないし図5は本発明の実施例1に係り、図1は本発明の実施例1の蛍光内視鏡装置の構成を示し、図2は病変部などに励起光を照射した場合に得られる蛍光スペクトル特性を示し、図3は画像処理装置の構成を示し、図4は本実施例による残渣検出方法の処理内容を示し、図5は蛍光スペクトル測定結果から残渣の識別を行う処理内容を示す。
図1に示すように本発明の実施例1の蛍光内視鏡装置1は、体腔7内に挿入される光学式の内視鏡2と、この内視鏡2の照明光を伝送するライトガイド11に励起光及び照明光を供給する光源装置3と、内視鏡2により受光して取得された光学像に対して、白色光(可視領域の光)による通常画像と蛍光画像とを撮像する撮像装置4と、この撮像装置4により撮像された撮像信号に対して画像処理を行う画像処理装置5と、この画像処理装置5により処理された画像を表示するモニタ6とから構成される。
1 to 5 relate to the first embodiment of the present invention, FIG. 1 shows the configuration of the fluorescence endoscope apparatus according to the first embodiment of the present invention, and FIG. 2 is obtained when the lesioned part is irradiated with excitation light. 3 shows the configuration of the image processing apparatus, FIG. 4 shows the processing contents of the residue detection method according to this embodiment, and FIG. 5 shows the processing contents for identifying the residue from the fluorescence spectrum measurement results. Show.
As shown in FIG. 1, a
内視鏡2は、体腔7内に挿入される挿入部8を有し、この挿入部8内には照明光を伝送するライトガイド11が挿通されており、このライトガイド11の後端は光源装置3に接続される。
光源装置3内には、照明光を発生する光源として例えば白色光を発生するランプ12が内蔵され、このランプ12で発生された照明光は、集光レンズ13により集光され、モータ14で回転駆動される回転板15に取り付けられた白色光を透過する白色光透過フィルタ(白色光フィルタと略記)16と励起光透過フィルタ(以下、励起光フィルタと略記)17を交互に通り、ライトガイド11の後端の入射端面に入射される。
ライトガイド11の入射端面に入射された光は、その先端面に伝送され、その先端面から照明窓に取り付けられた照明レンズ18を経て拡開して体腔7内の病変部等の被写体側に照射される。すなわち、ランプ12及び励起光フィルタ17により、励起光照射手段が構成されている。
The
The
The light incident on the incident end surface of the
挿入部8の先端部には、照明窓に隣接して観察窓が設けてあり、この観察窓には対物レンズ19が取り付けてあり、その結像位置に被写体の光学像を結ぶ。この結像位置にはイメージガイド20の先端面が配置されており、イメージガイド20の先端面に結像された光学像を手元側の端面に伝送し、その端面に取り付けられた撮像装置4により撮像される。
つまり、イメージガイド20の後端面に対向して撮像レンズ21が配置され、その光軸上には、ダイクロイックミラー22と、モータ23により回転される回転板24とが配置されている。ここで、ダイクロイックミラー22は、体腔7内から挿入部8の観察窓に入射した光を、通常光と蛍光として2分する。また、この回転板24には複数の異なる波長帯の蛍光を透過するように設定された蛍光フィルタ25a、25b、25cが取り付けられている。
イメージガイド20の後端面から出射された光は、撮像レンズ21で集光され、その際ダイクロイックミラー22により反射された光は、その反射光軸上に配置された通常観察用の固体撮像素子としての電荷結合素子(CCDと略記)26の撮像面(受光面)に結像され、このCCD26により通常画像が撮像される。
An observation window is provided at the distal end of the
That is, the
The light emitted from the rear end face of the
一方、このダイクロイックミラー22を透過した光は、順次光軸上に配置される蛍光フィルタ25a、25b、25cを通して撮像レンズ21の光軸上の結像位置に配置された蛍光観察用となるCCD27の撮像面に結像される。すなわち、ダイクロイックミラー22及びCCD27により、蛍光受光手段が構成されている。
両CCD26及びCCD27により光電変換された信号は、画像処理装置5に入力され、画像処理された後、モニタ6にCCD26及びCCD27により撮像された画像が表示される。
上記回転板24に取り付けられた蛍光フィルタ25a、25b、25cは、患部等に投与される蛍光薬剤が固有に(或いは特徴的に)発生する蛍光の波長と、残渣が固有に(或いは特徴的に)発生する蛍光の波長に対応して設定されている。
具体的に説明すると、患部に投与された蛍光薬剤は、励起光に対して図2(A)に示すように波長λaでピークとなる蛍光を発生する固有のスペクトル特性を示す。
On the other hand, the light transmitted through the
The signals photoelectrically converted by both the
The
More specifically, the fluorescent drug administered to the affected area exhibits a unique spectral characteristic that generates fluorescence having a peak at the wavelength λa as shown in FIG.
なお、本実施例等においては、主に患部に対して病変(或いは病変部)があるとその部分に集積する特性を持つ蛍光薬剤を投与することにより、その蛍光薬剤が発生する蛍光を観察して病変部の蛍光像を得ると説明するが、病変部自体が蛍光薬剤の投与を行わない場合でも発生する自家蛍光の場合にも適用できる。このため、本明細書及び請求項では、これらの場合を含めて、病変部に集積した蛍光薬剤による蛍光と表現すべき場合でも、単に病変部の蛍光と簡略化した表現も用いている。
上記図2(A)に対して、残渣は、図2(B)に示すように700nmの波長からより波長の長いλ2にまたがる比較的にブロードな波長帯域で蛍光を発生する固有のスペクトル特性を示す。
つまり、病変部の場合には、比較的狭い波長λa付近のみで蛍光を発生し、これに対して残渣の場合には、この波長λaの他に、これよりも短波長の波長λbと長波長の波長λcとを含む。
In this example, the fluorescence generated by the fluorescent agent is observed by administering a fluorescent agent having the characteristic of accumulating in the affected part (or affected part) mainly in the affected part. However, the present invention can also be applied to autofluorescence that occurs even when the lesion site itself does not administer a fluorescent drug. For this reason, in the present specification and claims, including these cases, even when the fluorescence due to the fluorescent agent accumulated in the lesion is to be expressed, the simplified expression is simply used as the fluorescence of the lesion.
In contrast to FIG. 2A, the residue has a unique spectral characteristic that generates fluorescence in a relatively broad wavelength band spanning from a wavelength of 700 nm to a longer wavelength λ2, as shown in FIG. 2B. Show.
That is, in the case of a lesion, fluorescence is generated only in the vicinity of a relatively narrow wavelength λa, whereas in the case of a residue, in addition to this wavelength λa, a shorter wavelength λb and a longer wavelength Wavelength λc.
このため、本実施例では蛍光フィルタ25a、25b、25cの透過波長として、図2(C)に示すように波長λaとその両側の波長λb、λcとを透過帯域の中心波長に設定したバンドパスフィルタ特性(点線でそれぞれ示す)にして、蛍光スペクトルを生成する。すなわち、複数の蛍光フィルタ25a、25b、25cにより、スペクトル生成手段が構成されている。
この場合、発生する蛍光の波長帯域、つまり近赤外の波長以上の光を対象とするフィルタ特性に設定している。そして、このように測定することにより得られるスペクトル測定結果により、波長λaの蛍光フィルタ25aの場合でのみ検出される場合には病変部の蛍光と、そしてこの波長λaの蛍光フィルタ25aの場合の他に、両側の波長λb、λcの蛍光フィルタ25b、25cの場合においても検出される場合には残渣の蛍光と識別することができるようにしている。
For this reason, in this embodiment, as the transmission wavelengths of the
In this case, the filter characteristic is set to a wavelength band of the generated fluorescence, that is, light having a wavelength of near infrared or longer. Then, according to the spectrum measurement result obtained by measuring in this way, when the detection is performed only in the case of the
図3は画像処理装置5における画像処理を行う構成を示す。
CCD26は、CCDドライブ回路31aからのCCDドライブ信号が印加されることにより駆動され、CCD26で光電変換された白色像に対応する撮像信号は、通常画像生成回路32aに入力される。この通常画像生成回路32aに入力された撮像信号は、映像信号に変換された後、混合回路33に入力される。この混合回路33は、CCD26で撮像された白色画像(通常画像)に対応する映像信号と、CCD27により撮像された蛍光画像に対応する映像信号とを混合してモニタ6に出力し、モニタ6には両画像が表示される。
また、CCD27は、CCDドライブ回路31bからのCCDドライブ信号が印加されることにより駆動され、CCD27で光電変換された蛍光画像に対応する蛍光の撮像信号は、蛍光画像生成回路32bを構成するCDS回路34に入力される。
FIG. 3 shows a configuration for performing image processing in the
The
Further, the
このCDS回路34により信号成分が抽出された後、A/D変換器35によりデジタル信号に変換された後、メモリ36に格納される。
このメモリ36に格納された蛍光信号データは、この蛍光信号データ中の各部が病変部のものか或いは残渣によるものかを識別するための処理を行う残渣検出手段としてのCPU37により読み出される。そして、CPU37内の残渣判定部(スペクトル比較部)38aにより、例えばROM38bに予め格納された閾値と比較され、その判定結果が例えばメモリ部38cに格納される。
なお、メモリ36には、図1の蛍光フィルタ25a、25b、25cを順次通して撮像した各フレームの蛍光信号データが3フレーム分が1組として関連付けて格納される。
After the signal component is extracted by the
The fluorescence signal data stored in the
In the
残渣判定部38aは、図2(C)に示すように3つの蛍光フィルタ25a、25b、25cによりそれぞれ撮像された蛍光信号データが測定データとして、ROM38bに予め格納されている閾値と比較され、その比較結果により病変部の蛍光信号データであるか残渣による蛍光信号データであるかの識別情報(例えばフラグコード)がメモリ部38cに格納される。
なお、メモリ部38cは例えばメモリ36と同じアドレスで識別情報が格納される。また、メモリ36に格納された蛍光信号データが読み出されてモニタ6に表示される場合には、メモリ36に印加される読み出しのアドレスがメモリ部38cにも印加されて対応する識別情報が同期して読み出される。
このため、モニタ6上に表示される残渣による蛍光像は、CPU37により残渣の位置及びサイズに対応した識別情報に基づいて、病変部の蛍光像と異なる表示形態で表示される。このように、CPU37は、残渣の位置やサイズを検出する残渣位置検出手段としての機能を有する。
As shown in FIG. 2 (C), the
The
For this reason, the fluorescence image by the residue displayed on the monitor 6 is displayed by the
なお、残渣判定部38aによる判定は各画素毎に行うことが可能であるが、視覚的に十分に小さくなるサイズのような残渣の蛍光像に対しては、識別符号を付けないようにしても良い。点状に小さなサイズの場合でも、病変部の蛍光像と異なる表示形態で表示すると、その表示形態がかえって邪魔になる可能性もあるので、画素サイズの大きさも判定条件に含める(この画素サイズは、ユーザ側で選択設定できるようにすると良い)ようにしても良い。
また、ROM38bは、例えば電気的に書き換えが可能な不揮発性メモリとしてのEEPROM或いはフラッシュメモリなどで形成されている。そして、残渣の判定を行うために、事前に残渣であることが分かっている(確定している)部分を撮像して、その場合の蛍光信号データをメモリ36に格納し、図示しない指示操作によりCPU37を制御してその蛍光信号データを(図3の点線で示すように)ROM38b内に格納したり、必要に応じてその蛍光信号データの値を修正して閾値として設定することもできるようにしている。
The determination by the
The ROM 38b is formed by, for example, an EEPROM or a flash memory as an electrically rewritable nonvolatile memory. Then, in order to determine the residue, a portion that is known (determined) as a residue is imaged in advance, and the fluorescence signal data in that case is stored in the
上記メモリ36における蛍光フィルタ25aを通して撮像された蛍光信号データは、D/A変換器39を経てアナログの映像信号に変換され、混合回路33に入力され、CCD26側の映像信号と混合されてモニタ6に出力される。
この場合、例えばD/A変換器39から混合回路33に入力される途中に残渣像処理手段としてのアナログスイッチ40aが設けられている。また、アナログスイッチ40aとメモリ部38cの間には、発振器40bが設けられている。このように構成することで、メモリ部38cの判定結果の情報により、発振器40bの発振を制御してアナログスイッチ40aのON/OFFを行う。
つまり、後述するように病変部の蛍光であると判定されたような場合には、アナログスイッチ40aはONのままであるが、残渣の可能性が高いと判定された識別信号がメモリ部38cに格納されている場合には、発振器40bの発振出力でアナログスイッチ40aをON/OFFする。そして、残渣の可能性が高いと判定された蛍光画像部分は点滅して表示されるようにしている。
The fluorescent signal data imaged through the
In this case, for example, an
That is, as will be described later, when it is determined that the fluorescence is from the lesioned part, the
次に本実施例による動作を以下に説明する。図1に示すように内視鏡2のライトガイド11の手元側の端部を光源装置3に接続し、またイメージガイド20の後端を撮像装置4に接続する。
そして、光源装置3等の電源を投入し、内視鏡2の挿入部を体腔7内に挿入する。すると、図4のステップS1に示すように光源装置3のランプ12による照明光がライトガイド11を経て、その先端面から照明レンズ18を経て体腔7内の生体組織側に照射される。
この場合、ランプ12の照明光路上には、モータ14により回転される回転板15に取り付けた白色光フィルタ16と励起光フィルタ17とが交互に配置されるので、生体組織には白色光(通常光)と励起光とが交互に照射される。
生体組織に照射された白色光や励起光の一部は反射光となり、対物レンズ19によりイメージガイド20の先端面に結像される。また、励起光により発生した蛍光も対物レンズ19によりイメージガイド20の先端面に結像される。そして、イメージガイド20の後端面から撮像装置4側に出射される。
Next, the operation according to this embodiment will be described below. As shown in FIG. 1, the proximal end of the
Then, the power source of the
In this case, since the
Part of the white light and excitation light irradiated to the living tissue becomes reflected light, and is imaged on the tip surface of the
そして、図4のステップS2に示すように通常観察用CCD26と蛍光観察用CCD27で撮像(受光)される。
つまり、イメージガイド20の後端面から出射された光は、撮像レンズ21で集光される。その際、白色光の場合には、ダイクロイックミラー22により、図2の約700nm以上の長波長側の蛍光成分を除くほぼ可視領域の波長成分が反射され、その反射光軸上に配置された通常観察用のCCD26の撮像面(受光面)に結像され、このCCD26により通常画像(白色画像)が撮像される。
一方、励起光フィルタ17を通した励起光が照射された場合においては、ダイクロイックミラー22により、短波長側の励起光成分はカットされると共に、約700nmより長波長側の蛍光成分のみがこのダイクロイックミラー22を透過し、順次光軸上に配置される蛍光フィルタ25a、25b、25cを通して蛍光観察用のCCD27により撮像される。
Then, as shown in step S <b> 2 of FIG. 4, the image is picked up (received) by the
That is, the light emitted from the rear end surface of the
On the other hand, when the excitation light passing through the
これらCCD26、27により撮像された信号は、画像処理装置5に送られ、図4のステップS3に示すようにそれぞれ通常画像及び蛍光画像に対応する映像信号が生成される。
なお、図1のモニタ6での表示例では、CCD26により撮像された通常画像は、縮小処理されて、表示される。
一方、CCD27により撮像された蛍光画像に対しては、ステップS4に示すように蛍光信号のスペクトル測定処理が行われ、さらにステップS5に示すようにそのスペクトル測定処理結果から病変部の蛍光像か、残渣による蛍光像かの判定(識別)処理が行われる。
Signals picked up by the
In the display example on the monitor 6 in FIG. 1, the normal image captured by the
On the other hand, the fluorescence image captured by the
そして、この判定処理によりステップS6に示すように残渣の有無の検出処理がモニタ6に表示される各フレームの信号データに対して繰り返し行われる。
つまり、図3の残渣判定部38aにより、病変部の蛍光像か、残渣による蛍光像かの判定処理が行われる。この判定処理は、メモリ36に格納された蛍光信号データを順次読み出して各画素毎に閾値と比較して判定を行う。そして、その判定結果に対応した識別情報をメモリ部38cに格納する。つまり、図4のステップS7に示すように判定処理が行われた各画素の位置に対応した識別情報が生成される。
そして、このようにして判定処理された結果に基づき、ステップS8に示すように病変部の蛍光像と残渣による蛍光像とを表示する場合、残渣の蛍光像を病変部の蛍光像とを異なる表示形態、例えば点滅させて表示する等してモニタ6に表示する。
And by this determination process, as shown in step S6, the detection process of the presence or absence of a residue is repeatedly performed with respect to the signal data of each frame displayed on the monitor 6. FIG.
In other words, the
Then, based on the result of the determination process, when displaying the fluorescent image of the lesioned part and the fluorescent image of the residue as shown in step S8, the residual fluorescent image is displayed differently from the fluorescent image of the lesioned part. The form is displayed on the monitor 6 by blinking, for example.
このように残渣の蛍光像を病変部の蛍光像とは表示形態が異なるようにしてモニタ6に表示することにより、病変部による蛍光像に対して、残渣の蛍光像が混入して表示されてしまうような場合にも、ユーザは、簡単に残渣による蛍光像を他の蛍光像(本実施例では病変部の蛍光像)と視覚的に識別することができるようになり、診断などを効率良く行うことができる。
次に図4におけるステップS5及びS6の処理、つまり図3の残渣判定部38aによる判定処理の内容を図5を参照してより詳細に説明する。
図3のCPU37の構成で説明したように、メモリ36には、蛍光フィルタ25a、25b、25cで異なるスペクトル(波長)で順次撮像された蛍光信号データが格納される。
In this way, by displaying the residual fluorescence image on the monitor 6 in a display form different from that of the lesioned portion, the residue fluorescence image is mixed with the fluorescence image of the lesioned portion and displayed. Even in such a case, the user can easily visually distinguish the fluorescent image due to the residue from other fluorescent images (in this embodiment, the fluorescent image of the lesioned part), and thus the diagnosis can be performed efficiently. It can be carried out.
Next, the processing in steps S5 and S6 in FIG. 4, that is, the contents of the determination processing by the
As described in the configuration of the
そして、残渣判定部38aは、蛍光フィルタ25aを通して撮像した信号データに対しては、ROM38bに格納された閾値Aoと比較し、蛍光フィルタ25bを通して撮像した信号データに対しては、ROM38bに格納された閾値Boと比較し、蛍光フィルタ25cを通して撮像した信号データに対しては、ROM38bに格納された閾値Coと比較する。
以下の説明では、図2(C)に示すように蛍光フィルタ25a、25b、25cをそれぞれ通して撮像した信号データをそれぞれA、B、Cとする。
つまり、CPU37の残渣判定部38aは、図5(A)のステップS11、S12、S13に示すように撮像された蛍光信号データA、B、Cに対して、その値が閾値Ao、Bo、Coを超えているか否かの判定を行う。
And the
In the following description, as shown in FIG. 2C, signal data captured through the
That is, the
ステップS11において、蛍光信号データAが閾値Aoより大きい場合には、ステップS12、S13に示すように残渣判定部38aは、蛍光信号データBが閾値Boより大きいか否かと、蛍光信号データCが閾値Coより大きいか否かの判定を行う。逆にステップS11において、閾値Aoより大きい蛍光信号データAが検出されない場合には、病変部及び残渣の蛍光が殆どないと判定してこの処理を終了する。
また、ステップS12、S13の判定処理において、信号データB、Cが,閾値Bo,Coをそれぞれ超えていない場合にはステップS14に進み、残渣判定部38aはこの場合における信号データAが残渣の蛍光でなく、病変部の蛍光であると判定してこの処理を終了する。
一方、ステップS12、S13の判定処理において、信号データB、Cが,閾値Bo,Coを超えている場合には残渣の可能性のある蛍光が検出されたとしてステップS15及びS16の判定処理に進む。
In step S11, when the fluorescence signal data A is greater than the threshold value Ao, as shown in steps S12 and S13, the
If the signal data B and C do not exceed the threshold values Bo and Co in the determination processing in steps S12 and S13, the process proceeds to step S14, and the
On the other hand, if the signal data B and C exceed the threshold values Bo and Co in the determination processes in steps S12 and S13, the process proceeds to the determination processes in steps S15 and S16 on the assumption that fluorescence that may be a residue is detected. .
ステップS15においては残渣判定部38aは、信号データの比B/Aが残渣の蛍光信号スペクトルの包落線(エンベロープ)から、波長λb付近の値と波長λa付近の値により残渣の可能性が高い範囲の判定を行う2つの閾値KbaとHbaの間にあるか否かの比較判定を行う。なお、閾値Kbaは下限側の閾値であり、Hbaは上限側の閾値である。
また、同様に、ステップS16においてはも残渣判定部38aは、信号データの比C/Aが残渣の蛍光信号スペクトルの包落線(エンベロープ)から、波長λc付近の値と波長λa付近の値により残渣の可能性が高い範囲の判定を行う2つの閾値KcaとHcaの間にあるか否かの比較判定を行う。なお、閾値Kcaは下限側の閾値であり、Hcaは上限側の閾値である。
そして、ステップS15及びS16の判定処理によりKba<B/A<Hbaの条件を満たす場合、或いはKca<C/A<Hcaの条件を満たす場合には、ステップS17に進み、残渣判定部38aはこの場合には残渣の可能性が高いと判定する。そして、図3で説明したように残渣判定部38aはメモリ部38cに判定結果の識別情報を書き込む。この識別情報は例えば残渣の可能性が高いことを示すフラグを立てる。
In step S15, the
Similarly, in step S16, the
When the determination process of steps S15 and S16 satisfies the condition of Kba <B / A <Hba, or when the condition of Kca <C / A <Hca is satisfied, the process proceeds to step S17, and the
そして、次のステップS18において、残渣の蛍光表示処理を行う。具体的には図3のメモリ36に格納された信号データを読み出してモニタ6に表示する場合、メモリ部38cに書き込まれた判定情報を利用して、残渣の可能性が高い情報が表示されるタイミングにおいて、フラグ(コード)の有無で点滅させる。
例えば、図1のモニタ6の表示画面例で示すように、通常画像表示エリア6aに通常画像を、蛍光画像表示エリア6bに蛍光画像を表示するようにした場合、蛍光画像における病変部の蛍光像Iaは点滅されることなく表示されるのに対して、残渣の可能性が高いと判定された蛍光像Ib部分は点滅して表示されることになる。
従って、残渣の蛍光像部分が表示されると、その表示部分が点滅して表示され、病変部の蛍光像と異なる表示形態で表示されることになる。このように表示形態を変更することにより、ユーザは得られた蛍光画像から簡単に残渣の可能性が高い蛍光部分を知ることができる。
In the next step S18, a residue fluorescence display process is performed. Specifically, when the signal data stored in the
For example, as shown in the display screen example of the monitor 6 in FIG. 1, when a normal image is displayed in the normal image display area 6a and a fluorescent image is displayed in the fluorescent
Accordingly, when the fluorescent image portion of the residue is displayed, the display portion blinks and is displayed in a display form different from the fluorescent image of the lesioned portion. By changing the display form in this way, the user can easily know a fluorescent portion having a high possibility of a residue from the obtained fluorescent image.
一方、ステップS15及びS16の判定処理により、Kba<B/A<Hbaの条件を満たさない場合、及びKca<C/A<Hcaの条件を満たさない場合には、ステップS19に進み、残渣の蛍光の可能性が低いと判定してこの処理を終了する。
なお、上述の説明では、ステップS19の判定結果は表示の際には反映しないようにしているが、ステップS19の判定結果も表示の際に反映しても良い。例えば、ステップS17の場合には、残渣の可能性が高いので、例えば点滅させる周波数を高くして表示し、ステップS19の判定結果のものに対しては、点滅させる周波数を低くして表示するようにしても良い。
また、図5(A)のステップS15、S16を並列的に処理する代わりに図5(B)に示すようにステップS15の判定処理を行い、Kba<B/A<Hbaの条件を満たす場合にさらにステップS16の判定処理を行い、さらにKca<C/A<Hcaの条件を満たす場合に、ステップS17に進み、この場合の信号データは、残渣の蛍光の可能性が高いと判定するようにしても良い。
On the other hand, if it is determined in steps S15 and S16 that the condition of Kba <B / A <Hba is not satisfied, and if the condition of Kca <C / A <Hca is not satisfied, the process proceeds to step S19, and the residual fluorescence It is determined that there is a low possibility of this process, and this process ends.
In the above description, the determination result of step S19 is not reflected on display, but the determination result of step S19 may also be reflected on display. For example, in the case of step S17, since the possibility of a residue is high, for example, the blinking frequency is displayed with a high frequency, and for the determination result of step S19, the blinking frequency is displayed with a low frequency. Anyway.
Also, instead of processing steps S15 and S16 in FIG. 5A in parallel, the determination process in step S15 is performed as shown in FIG. 5B, and the condition of Kba <B / A <Hba is satisfied. Further, the determination process in step S16 is performed, and if the condition of Kca <C / A <Hca is satisfied, the process proceeds to step S17, and the signal data in this case is determined to have a high possibility of residual fluorescence. Also good.
この場合には、ステップS17により判定された結果は、より信頼性が高いものとなる。つまり、蛍光フィルタ25aを通して撮像され、メモリ36に格納された信号データは残渣の蛍光の可能性が非常に高いものとなる。
このように本実施例によれば、実際に蛍光信号として検出された場合においても、そのスペクトルの分布特性から残渣の場合を病変部の場合から有効に識別でき、かつ病変部とは異なる表示形態で表示するようにしているので、術者は残渣の可能性を容易に把握でき、診断を効率良く行うことができる。
次に本実施例の第1変形例を図6を参照して説明する。実施例1では、病変部の蛍光撮像に混入する残渣の蛍光像を識別(判定)するために複数の蛍光フィルタ25a、25b、25cを採用した。
In this case, the result determined in step S17 is more reliable. That is, the signal data captured through the
As described above, according to the present embodiment, even when actually detected as a fluorescence signal, the case of the residue can be effectively identified from the case of the lesion part from the distribution characteristics of the spectrum, and the display form is different from that of the lesion part. Therefore, the surgeon can easily grasp the possibility of the residue and can make a diagnosis efficiently.
Next, a first modification of the present embodiment will be described with reference to FIG. In the first embodiment, a plurality of
体内における検査部位に応じて残渣の蛍光スペクトルが変化するような場合には、その変化に対応して蛍光フィルタの透過波長を変更した方がより確実に識別することができることが予想される。
このために、1つの方法としては、図1に示した蛍光フィルタ25a、25b、25cの数を増やしたり、回転板24を取り替えて、他の蛍光フィルタを採用するようにしても良い。
さらに他の方法として、図6に示す第1変形例の構成のように分光プリズム41を採用するようにしても良い。
つまり、図6に示すようにダイクロイックミラー22を透過した光の光軸上には、モータ42により回動される分光プリズム41が配置され、この分光プリズム41により分光された光(具体的には蛍光)を受光するようにCCD27が配置されている。
In the case where the fluorescence spectrum of the residue changes according to the examination site in the body, it is expected that the transmission wavelength of the fluorescence filter can be more reliably identified in response to the change.
For this reason, as one method, the number of
As another method, the
That is, as shown in FIG. 6, a
この分光プリズム41は、モータ42により所定の角度範囲(例えば基準角度の状態から+θ及び−θ)で往復的に回動される。この分光プリズム41が回動されることにより、この分光プリズム41により分光された蛍光は、回動されていない基準角度の状態の波長から長波長側及び短波長側に所定の波長帯域内において連続的に変化し、CCD27により受光(撮像)することができるようにしている。
本変形例によれば、例えば残渣による蛍光スペクトルが、例えば図2(B)に示すように波長帯域が比較的広く連続的に分布してるような場合に対しても、連続的に受光(撮像)する波長を変えられるので、有効に対応することができる。また、以下のようにして実質的には離散的な複数波長で受光するようにしても良い。
例えばモータ42をステッピングモータで構成し、操作部43を介してモータ駆動回路44によりモータ42の回転角をステップ状に可変制御できるようにしても良い。つまり、操作部43からの制御指示設定により、CCD27で受光したいと望む波長の蛍光がCCD27側に出射される時間が長くなるように、かつCCD27で受光することを望まない波長の蛍光がCCD27側に出射される時間が短くなるようにモータ駆動回路44を介してモータ42の回転を制御するようにしても良い。
The
According to this modification, for example, the fluorescence spectrum due to the residue is continuously received (imaged) even when the wavelength band is relatively wide and continuously distributed as shown in FIG. 2B, for example. ) Can be changed, so it can be effectively handled. Further, light may be received at a plurality of substantially discrete wavelengths as follows.
For example, the
また、この場合には、操作部43からの選択操作等により、CCD27で実質的に受光する蛍光波長を選択することができ、検査部位に応じて残渣の蛍光スペクトルが変化するような場合にも対応することができる。また、病変部に投与する蛍光を発生させる蛍光薬剤(蛍光色素薬剤)を変えるような場合にも対応することができる。
また、本変形例を用い、予め分かっている残渣に対してその蛍光スペクトルの測定を行うと共に、残渣が全く無い状態で蛍光薬剤を投与した部分に対してその蛍光スペクトルの測定を行い、これら事前に得られた蛍光スペクトルにより実際に内視鏡検査する場合における病変部の蛍光と残渣の蛍光とを識別する処理を行う場合に用いる蛍光スペクトルを決定するようにしても良い。
また、本変形例により既知の残渣と蛍光薬剤に対してその蛍光スペクトルを事前に測定して、強度が大きくなる固有の蛍光スペクトルのデータを得るようにし、その得られた蛍光スペクトルのデータにより図1に示した蛍光フィルタ25a、25b、25cのフィルタ透過波長を設定するようにしても良い。
Further, in this case, the fluorescence wavelength substantially received by the
In addition, using this modification, the fluorescence spectrum is measured for a previously known residue, and the fluorescence spectrum is measured for a portion to which a fluorescent agent has been administered without any residue. The fluorescence spectrum used in the case of performing the process of discriminating between the fluorescence of the lesioned part and the fluorescence of the residue in the actual endoscopy based on the obtained fluorescence spectrum may be determined.
In addition, according to this modification, the fluorescence spectrum of a known residue and a fluorescent agent is measured in advance to obtain unique fluorescence spectrum data that increases in intensity. The filter transmission wavelengths of the
また、図7に示す第2変形例の構成のように可変フィルタとしての例えば音響光学チューナブルフィルタ51を採用しても良い。
つまり、図7に示すようにダイクロイックミラー22を透過した光の光軸上には、二酸化テルルなどにより構成される音響光学チューナブルフィルタ(AOTFと略記)51が配置され、このAOTF51により回折された1次の蛍光を受光する方向にCCD27が配置されている。
このAOTF51は、二酸化テルル結晶体52と、その一方の端面に取り付けた音響トランスジューサ53に対して可変RF発振器54から周波数可変のRF信号を印加する構成にしている。なお、音響トランスジューサ(超音波振動子)53が取り付けられた端面と反対側の端面は、音響振動を吸収する吸収体55を介して図示しない筐体に、二酸化テルル結晶体52を固定している。
Further, for example, an acousto-optic tunable filter 51 as a variable filter may be employed as in the configuration of the second modification shown in FIG.
That is, as shown in FIG. 7, an acousto-optic tunable filter (abbreviated as AOTF) 51 made of tellurium dioxide or the like is arranged on the optical axis of the light transmitted through the
This AOTF 51 is configured to apply a variable frequency RF signal from a
そして、操作部56から可変RF発振器54の発振周波数を設定する指示操作を行うことにより、可変RF発振器54は指示された発振周波数のRF信号を音響トランスジューサ53に印加し、二酸化テルル結晶体52をRF信号の周波数で振動させ、その結晶格子を伸縮させる(屈折率を変化させる)。
このため、この二酸化テルル結晶体52に蛍光が入射されると、透過型のグレーティング(回折格子)やブラッグ回折による光偏向器のような働きを行う。この場合、通常のグレーティングと異なり、このAOTF51は、ある特定の1波長のみを回折する機能を有し、非常に狭帯域のフィルタ透過特性を実現できる。
本変形例によれば、理想的に近いフィルタ特性で所望とする波長を通過帯域とした蛍光信号データを得ることができる。
Then, by performing an instruction operation for setting the oscillation frequency of the
For this reason, when fluorescence is incident on the
According to this modification, it is possible to obtain fluorescence signal data having a passband with a desired wavelength with ideal filter characteristics.
このため、第1変形例の場合と同様に、体腔内における検査対象部位の残渣によりそれが発生する蛍光のスペクトルが変化するような場合や、使用する蛍光薬剤によりその蛍光スペクトルが変化する場合にも柔軟に対応でき、そのような場合にも病変部と残渣との蛍光像の識別を効率良く行うことができる。
本変形例においても、第1変形例で説明したように事前に残渣と蛍光薬剤が発生する蛍光のスペクトル測定を行い、その測定結果から両者を識別する場合に用いる蛍光スペクトルの設定に用いるようにしても良い。この場合、本変形例によれば、両者を識別するのに有効となる(残渣や蛍光薬剤に固有な)蛍光スペクトルに選択設定することが発振周波数の選択設定により簡単にできるし、複数の蛍光スペクトル間内で任意の蛍光スペクトルにそれぞれ設定することが、離散的に変化させることができるため、短時間で行うことができる。
また、本変形例は、第1変形例よりも巨視的に可動するメカニカルな可動部分を必要としないメリットもある。
For this reason, as in the case of the first modified example, when the fluorescence spectrum generated by the residue of the site to be examined in the body cavity changes or when the fluorescence spectrum changes depending on the fluorescent agent used. In such a case, the fluorescent image can be efficiently identified between the lesion and the residue.
Also in this modification example, as described in the first modification example, the spectrum measurement of the fluorescence generated by the residue and the fluorescent agent is performed in advance, and it is used for the setting of the fluorescence spectrum used when identifying both from the measurement result. May be. In this case, according to this modification, it is possible to easily select and set the fluorescence spectrum (specific to the residue and the fluorescent agent) that is effective for identifying the two by the selection setting of the oscillation frequency, and a plurality of fluorescence Since it can be changed discretely to set an arbitrary fluorescence spectrum within the spectrum, it can be performed in a short time.
In addition, the present modification has an advantage that a mechanical movable part that is macroscopically movable is not required than the first modification.
次に図8から図10を参照して本発明の実施例2を説明する。なお、実施例1と同一の構成要素には、同一の符号を付し、その説明を省略する。図8は、本発明の実施例2の蛍光内視鏡装置1Bの構成を示す。
図8に示す蛍光内視鏡装置1Bは、体腔内に挿入される電子内視鏡2Bと、この電子内視鏡2Bのライトガイド11に励起光及び通常観察用の照明光を供給する光源装置3Bと、電子内視鏡2Bにより撮像された撮像信号に対して画像処理を行う画像処理装置5Bと、この画像処理装置5Bにより処理された画像を表示するモニタ6とから構成される。 電子内視鏡2Bは体腔内に挿入される細長の挿入部8を有し、この挿入部8内にはライトガイド11が挿通されている。
このライトガイド11の後端は、光源装置3Bに着脱自在に接続される。この光源装置3Bは、実施例1の光源装置3において、回転板15に1つであった励起光フィルタ17の代わりに3つの励起光フィルタ17a、17b、17cが取り付けてある。
Next,
A
The rear end of the
図9は、励起光フィルタ17a、17b、17cを通した励起光のスペクトル強度分布等を示す。励起光フィルタ17aは病変部の蛍光スペクトル分布における最も強度の大きな蛍光を発生させる波長λA(=λa)の励起光E1を発生する。励起光フィルタ17b、17cは、波長λAより短波長側の波長λBの励起光E2と、波長λAより長波長側の波長λCの励起光E3を透過する(図9では対応する励起光フィルタ17a、17b、17cも括弧で示している)。
なお、励起光フィルタ17aとして、残渣の蛍光スペクトル分布における最も強度の大きな蛍光を発生させる場合の励起光E1を発生するように設定した場合に関しては図11で後述する。
上記回転板15がモータ14により回転駆動されるので、ライトガイド11の後端の入射端面には、白色光と、励起光フィルタ17a、17b、17cを順次通して励起光E1、E2、E3が順次入射される。
FIG. 9 shows the spectral intensity distribution and the like of the excitation light that has passed through the
The case where the excitation light filter 17a is set to generate excitation light E1 in the case of generating fluorescence with the highest intensity in the fluorescence spectrum distribution of the residue will be described later with reference to FIG.
Since the
ライトガイド11の入射端面に入射された光は、その先端面に伝送され、その先端面から照明窓に取り付けられた照明レンズ18を経て拡開して体腔7内の病変部等の被写体側に照射される。
挿入部8の先端部には、照明窓に隣接して2つの観察窓が設けてあり、2つの観察窓には対物レンズ19a、19bが取り付けてあり、各結像位置には通常観察用CCD26と、蛍光観察用CCD27とがそれぞれ配置されている。
また、蛍光観察用CCD27の前には、蛍光フィルタ61が配置されている。この蛍光フィルタ61は、図9に示すように蛍光を透過するバンドパスフィルタ特性を有する。 また、図8では、励起光フィルタ17a、17b、17cを順次通した励起光により、CCD27で撮像して得られた信号データをF1,F2,F3で示している。
The light incident on the incident end surface of the
Two observation windows are provided adjacent to the illumination window at the distal end of the
A
CCD26及び27で撮像した撮像信号は、画像処理装置5Bに入力され、画像処理された後、生成された画像信号がモニタ6に出力され、モニタ6の表示面には通常画像と蛍光画像が表示される。
画像処理装置5Bの内部構成は、図3に示した実施例1の画像処理装置5とほぼ同様の構成であり、同じ符号を用いてその動作を説明する。但し、CPU37内のROM38bに格納されている閾値は、実施例1とは異なり、そのROM38b内に格納されている閾値を用いて実施例1とほぼ同様の残渣の判定処理を行うことになる(図10を参照して後述)。
次に本実施例による作用を説明する。本実施例における全体的な動作は、実施例1における図4のフローチャートに沿った動作となる。
但し、実施例1においては、透過帯域が異なる複数の蛍光フィルタ25a、25b、25cを用いて複数の蛍光信号データを取得し、複数の蛍光信号データに対してCPU37で病変部或いは残渣の蛍光信号かの判定を行うようにしていたが、本実施例では複数の励起光フィルタ17a、17b、17cを順次通した励起光E1、E2、E3により、複数の蛍光信号データを取得し、複数の蛍光信号データに対してCPU37で病変部或いは残渣の蛍光信号かの判定を行う。
The image signals picked up by the
The internal configuration of the image processing device 5B is substantially the same as that of the
Next, the operation of this embodiment will be described. The overall operation in the present embodiment is the operation according to the flowchart of FIG. 4 in the first embodiment.
However, in the first embodiment, a plurality of fluorescent signal data is acquired using a plurality of
このため、図4のステップS4の蛍光信号スペクトルの測定処理としては、より具体的には励起光の照射スペクトルを変更して蛍光信号を測定することになる。そして、このように励起光の照射スペクトルを変更して蛍光信号を測定して信号データに対して図4に示したステップS5以下の処理を行う。このステップS5以下の処理は、より詳細に示すと図10に示す処理となる。
以下、図10に示す残渣の判定処理を説明する。なお、本実施例における画像処理装置5B内のROM38bには、実施例1における閾値Ao、Bo、Coに相当する閾値としてF1′、F2′、F3′が格納されている。また、実施例1における閾値Kba、Hba、Kca,Hcaに相当する閾値としてN21、M21、N31、M31が格納されている。
つまり、残渣の判定処理が開始すると、CPU37の残渣判定部38aは、図10のステップS21、S22、S23に示すように撮像された蛍光信号データF1、F2、F3に対して、その値が閾値F1′、F2′、F3′を超えているか否かの判定を行う。
For this reason, as the measurement process of the fluorescence signal spectrum in step S4 of FIG. 4, more specifically, the fluorescence signal is measured by changing the irradiation spectrum of the excitation light. Then, the fluorescence signal is measured by changing the irradiation spectrum of the excitation light in this way, and the processing after step S5 shown in FIG. 4 is performed on the signal data. The process after step S5 is shown in more detail in FIG.
Hereinafter, the residue determination process illustrated in FIG. 10 will be described. The ROM 38b in the image processing apparatus 5B in the present embodiment stores F1 ′, F2 ′, and F3 ′ as thresholds corresponding to the thresholds Ao, Bo, and Co in the first embodiment. Further, N21, M21, N31, and M31 are stored as threshold values corresponding to the threshold values Kba, Hba, Kca, and Hca in the first embodiment.
That is, when the residue determination process starts, the
ステップS21において、蛍光信号データF1が閾値F1′より大きい場合には、ステップS22、S23に示すように残渣判定部38aは、蛍光信号データF2が閾値F2′より大きいか否かと、蛍光信号データF3が閾値F3′より大きいか否かの判定を行う。逆にステップS21において、閾値F1′より大きい蛍光信号データAが検出されない場合には、病変部及び残渣の蛍光が殆どないと判定してこの処理を終了する。
また、ステップS22、S23の判定処理において、信号データF2、F3が,閾値F2′,F3′をそれぞれ超えていない場合にはステップS24に進み、残渣判定部38aはこの場合における信号データF1が残渣の蛍光でなく、病変部の蛍光であるいと判定してこの処理を終了する。
一方、ステップS22、S23の判定処理において、信号データF2、F3が,閾値F2′,F3′を超えている場合には残渣の可能性のある蛍光が検出されたとしてステップS25及びS26の判定処理に進む。
In step S21, when the fluorescence signal data F1 is larger than the threshold value F1 ′, as shown in steps S22 and S23, the
If the signal data F2 and F3 do not exceed the threshold values F2 ′ and F3 ′ in the determination processes in steps S22 and S23, the process proceeds to step S24, and the
On the other hand, in the determination process of steps S22 and S23, if the signal data F2 and F3 exceed the threshold values F2 ′ and F3 ′, the determination process of steps S25 and S26 is performed on the assumption that the fluorescence that may be a residue is detected. Proceed to
ステップS25においては残渣判定部38aは、信号データの比F2/F1が残渣の可能性が高い範囲の判定を行う2つの閾値N21とM21の間にあるか否かの比較判定を行う。なお、閾値N21は下限側の閾値であり、M21は上限側の閾値である。
また、同様に、ステップS26においてはも残渣判定部38aは、信号データの比F3/F1が残渣の可能性が高い範囲の判定を行う2つの閾値N31とM31の間にあるか否かの比較判定を行う。なお、閾値N31は下限側の閾値であり、M31は上限側の閾値である。
そして、ステップS25及びS26の判定処理によりN21<F2/F1<M21の条件を満たす場合、或いはN31<F3/F1<M31の条件を満たす場合には、ステップS27に進み、残渣判定部38aはこの場合には残渣の可能性が高いと判定する。そして、実施例1の図3で説明したように残渣判定部38aはメモリ部38cに判定結果の識別情報を書き込む。この識別情報は例えば残渣の可能性が高いことを示すフラグを立てる。
In step S25, the
Similarly, in step S26, the
Then, when the condition of N21 <F2 / F1 <M21 is satisfied by the determination process of steps S25 and S26, or when the condition of N31 <F3 / F1 <M31 is satisfied, the process proceeds to step S27, and the
そして、次のステップS28において、残渣の蛍光表示処理を行う。具体的には図3のメモリ36に格納された蛍光信号データを読み出してモニタ6に表示する場合、メモリ部38cに書き込まれた識別情報(判定結果情報)を利用して、残渣の可能性が高い情報が表示されるタイミングにおいて、フラグ(コード)の有無で表示を点滅制御し、その表示形態を変更する。
従って、残渣の蛍光像部分が表示されると、その表示部分は病変部の蛍光像と異なり、点滅して表示されることになる。このように表示形態を変更することにより、ユーザは得られた蛍光画像から簡単に残渣の可能性が高い蛍光像部分を知ることができる。
一方、ステップS25及びS26の判定処理によりN21<F2/F1<M21の条件を満たさない場合、及びN31<F3/F1<M31の条件を満たさない場合には、ステップS29に進み、残渣の蛍光の可能性が低いと判定してこの処理を終了する。
Then, in the next step S28, a residue fluorescence display process is performed. Specifically, when the fluorescence signal data stored in the
Accordingly, when the fluorescent image portion of the residue is displayed, the display portion is displayed blinking unlike the fluorescent image of the lesioned portion. By changing the display form in this way, the user can easily know a fluorescent image portion having a high possibility of residue from the obtained fluorescent image.
On the other hand, if the condition of N21 <F2 / F1 <M21 is not satisfied by the determination process of steps S25 and S26, and if the condition of N31 <F3 / F1 <M31 is not satisfied, the process proceeds to step S29, where the residual fluorescence It is determined that the possibility is low, and this process is terminated.
なお、上述の説明では、ステップS29の判定結果は表示の際には反映しないようにしているが、実施例1で説明したようにステップS29の判定結果も表示の際に反映しても良い。
また、図10のステップS25、S26を並列的に処理する代わりに、図5(B)に示した場合と同様にステップS25の判定処理を行い、N21<F2/F1<M21の条件を満たす場合にさらにステップS26の判定処理を行い、さらにN31<F3/F1<M31の条件を満たす場合に、ステップS27に進み、この場合の信号データは、残渣の蛍光の可能性が高いと判定するようにしても良い。
この場合には、ステップS27により判定された結果は、より信頼性が高いものとなる。
このように本実施例によれば、実際に蛍光信号と検出された場合においても、そのスペクトルの分布特性から残渣の場合を病変部の場合から有効に識別でき、かつ病変部とは異なる表示形態で表示するようにしているので、術者は残渣の可能性を容易に把握でき、診断を効率良く行うことができる。
In the above description, the determination result in step S29 is not reflected at the time of display. However, as described in the first embodiment, the determination result at step S29 may be reflected at the time of display.
Further, instead of processing steps S25 and S26 of FIG. 10 in parallel, the determination process of step S25 is performed in the same manner as shown in FIG. 5B, and the condition of N21 <F2 / F1 <M21 is satisfied. If the condition of N31 <F3 / F1 <M31 is further satisfied, the process proceeds to step S27. In this case, the signal data is determined to have a high possibility of residual fluorescence. May be.
In this case, the result determined in step S27 is more reliable.
As described above, according to the present embodiment, even when a fluorescence signal is actually detected, a residue can be effectively identified from the case of a lesion from the distribution characteristics of the spectrum, and the display form is different from that of the lesion. Therefore, the surgeon can easily grasp the possibility of the residue and can make a diagnosis efficiently.
なお本実施例では励起光E1として病変部の蛍光を最も有効に発生させる場合に適した波長λA(=λa)付近に設定しているが、例えば励起光E1を残渣の蛍光を最も有効に発生させる波長に設定し、他の励起光E2、E3の1つを病変部の蛍光を最も有効に発生させる励起光に設定して残渣の判定を行うようにしても良い。
この場合における残渣の判定の処理を図11に示す。なお、この場合には、残渣のみの判定を行う処理である。図11に示す処理は、図10における処理においてステップS22及びS23において、信号データF2、F3が,閾値F2′,F3′をそれぞれ超えていない場合には、残渣の蛍光でないと判定してこの処理を終了する。その他の処理内容は、図10の処理内容と同じであり、その説明を省略する。
なお、上述の説明においては、残渣の蛍光表示処理としては、残渣の可能性がある蛍光像を点滅させて表示する例を説明したが、この他に病変部の蛍光像の表示色と異なる表示色で表示するようにしても良い。
この場合には、例えばメモリ部38cのフラグコードで、モニタ6の1つのチャンネル、例えばR信号チャンネルへの信号入力を制御することにより、蛍光画像中に残渣の蛍光像が存在すると、病変部の蛍光像が例えばモノクロで表示されているのに対して、Rの色信号の欠落により緑と青とを合成した色で表示されるようになる。
In this embodiment, the excitation light E1 is set in the vicinity of the wavelength λA (= λa) suitable for the most effective generation of the fluorescence of the lesion. For example, the excitation light E1 generates the residual fluorescence most effectively. It is also possible to set the wavelength to be used and determine the residue by setting one of the other excitation lights E2 and E3 to the excitation light that most effectively generates the fluorescence of the lesion.
The residue determination process in this case is shown in FIG. In this case, only residue is determined. The process shown in FIG. 11 determines that the signal data F2 and F3 do not exceed the threshold values F2 ′ and F3 ′ in steps S22 and S23 in the process shown in FIG. Exit. The other processing contents are the same as the processing contents of FIG.
In the above description, as an example of the residual fluorescence display process, an example in which a fluorescent image that may be a residue is blinked and displayed is displayed. You may make it display with a color.
In this case, for example, by controlling the signal input to one channel of the monitor 6, for example, the R signal channel, with the flag code of the
また、励起光照射手段として、ランプ12及び励起光フィルタ17に代えて、複数のレーザ光源(不図示)を用いても良い。ここで、複数のレーザ光源の各々のレーザ光源は、互いに異なる波長帯域の励起光を発光するように構成され、順次発光するように制御されている。このようにして、複数の異なる波長帯域の励起光は、ライトガイド11の入射端面に順次入射され、ライトガイド11で伝送された後、照明レンズ18を経て体腔7内の病変部等の被写体側に照射される。この構成によれば、複数の励起光フィルタ17a、17b、17c等を配置する必要がないので、光源装置3Bを小型化することが可能である。なお、レーザ光源の他に、LED等を用いても同様の作用効果を奏する。
Further, as the excitation light irradiation means, a plurality of laser light sources (not shown) may be used instead of the
励起光を照射して蛍光撮像を行い、蛍光撮像した蛍光画像をモニタに表示した場合、残渣による蛍光像が表示される可能性があるが、残渣に固有の蛍光波長に設定したフィルタや、その蛍光を発生させる励起光用フィルタを用いて得られる蛍光信号から残渣による蛍光像を識別して病変部によるものと異なる表示形態で表示することにより、簡単に残渣による蛍光像を認識できる。 Fluorescence imaging is performed by irradiating excitation light, and when a fluorescence image is displayed on a monitor, a fluorescence image due to the residue may be displayed. By identifying the fluorescence image due to the residue from the fluorescence signal obtained using the excitation light filter that generates fluorescence and displaying it in a display form different from that due to the lesion, it is possible to easily recognize the fluorescence image due to the residue.
1…蛍光内視鏡装置
2…内視鏡
3…光源装置
4…撮像装置
5…画像処理装置
6…モニタ
7…体腔
8…挿入部
11…ライトガイド
12…ランプ
16…白色光フィルタ
17…励起光フィルタ
19…対物レンズ
20…イメージガイド
21…撮像レンズ
22…ダイクロイックミラー
25a、26b、25c…蛍光フィルタ
26、27…CCD
33…混合回路
36…メモリ
37…CPU
38a…残渣判定部
38b…ROM
38c…メモリ部
DESCRIPTION OF
33 ...
38a ... residue determination part 38b ... ROM
38c ... Memory section
Claims (9)
前記励起光によって前記体腔から発生する蛍光を受光する蛍光受光手段と、 Fluorescence receiving means for receiving fluorescence generated from the body cavity by the excitation light;
受光された蛍光の情報から前記体腔の蛍光画像を生成する蛍光画像生成手段と、 Fluorescence image generation means for generating a fluorescence image of the body cavity from the received fluorescence information;
前記蛍光の蛍光信号スペクトルを生成するスペクトル生成手段と、 Spectrum generating means for generating a fluorescence signal spectrum of the fluorescence;
前記蛍光信号スペクトルに基づき前記体腔内にある残渣を検出する残渣検出手段と、 Residue detection means for detecting residues in the body cavity based on the fluorescence signal spectrum;
前記蛍光画像上における前記残渣の蛍光像の表示形態を変える残渣像処理手段と、 A residue image processing means for changing a display form of the fluorescence image of the residue on the fluorescence image;
を有し、 Have
前記残渣検出手段は、前記スペクトル生成手段で生成された、第1の波長帯域とこの第1の波長帯域の両側にこれよりも短波長の第2の波長帯域と長波長の第3の波長帯域とを有する3つの異なる蛍光の第1乃至第3の波長帯域の蛍光信号スペクトルを入力し、第1乃至第3の波長帯域の蛍光信号スペクトルそれぞれに対して第1乃至第3の閾値が設定され、第1の波長帯域の蛍光信号スペクトルのみが第1の閾値より大きく第2及び第3の蛍光信号スペクトルがそれぞれ第2及び第3の閾値より大きくない場合には、病変部の蛍光であると判定することを特徴とする蛍光内視鏡装置。 The residue detecting means includes a first wavelength band generated by the spectrum generating means, a second wavelength band having a shorter wavelength than the first wavelength band, and a third wavelength band having a longer wavelength on both sides of the first wavelength band. The first to third fluorescence signal spectra of the first to third wavelength bands of three different fluorescence having the first and third wavelength bands are input, and the first to third threshold values are set for each of the fluorescence signal spectra of the first to third wavelength bands. When only the fluorescence signal spectrum of the first wavelength band is larger than the first threshold and the second and third fluorescence signal spectra are not larger than the second and third thresholds, respectively, the fluorescence of the lesioned part A fluorescence endoscope apparatus characterized by determining.
第1乃至第3の波長帯域の蛍光信号スペクトルのそれぞれが全て第1の閾値乃至第3の閾値より大きく且つ第1の波長帯域の蛍光信号スペクトルに対する第2の波長帯域の蛍光信号スペクトルの比が下限側の第4の閾値より大きく上限側の第5の閾値より小さい場合、或いは第1の波長帯域の蛍光信号スペクトルに対する第3の波長帯域の蛍光信号スペクトルの比が下限側の第6の閾値より大きく上限側の第7の閾値より小さい場合には、残渣の蛍光の可能性が高いと判定することを特徴とする請求項1に記載の蛍光内視鏡装置。 Each of the fluorescence signal spectra in the first to third wavelength bands is all larger than the first threshold value to the third threshold value, and the ratio of the fluorescence signal spectrum in the second wavelength band to the fluorescence signal spectrum in the first wavelength band is The sixth threshold value on the lower limit side is greater than the fourth threshold value on the lower limit side and smaller than the fifth threshold value on the upper limit side, or the ratio of the fluorescence signal spectrum in the third wavelength band to the fluorescence signal spectrum in the first wavelength band 2. The fluorescence endoscope apparatus according to claim 1, wherein when it is larger and smaller than a seventh threshold value on the upper limit side, it is determined that the possibility of fluorescence of the residue is high.
第1乃至第3の波長帯域の蛍光信号スペクトルのそれぞれが全て第1の閾値乃至第3の閾値より大きく且つ第1の波長帯域の蛍光信号スペクトルに対する第2の波長帯域の蛍光信号スペクトルの比が下限側の第4の閾値より大きくないか上限側の第5の閾値より小さくない場合、及び第1の波長帯域の蛍光信号スペクトルに対する第3の波長帯域の蛍光信号スペクトルの比が下限側の第6の閾値より大きくないか上限側の第7の閾値より小さくない場合には、残渣の蛍光の可能性が低いと判定することを特徴とする請求項1又は2に記載の蛍光内視鏡装置。 Each of the fluorescence signal spectra in the first to third wavelength bands is all larger than the first threshold value to the third threshold value, and the ratio of the fluorescence signal spectrum in the second wavelength band to the fluorescence signal spectrum in the first wavelength band is The ratio of the fluorescence signal spectrum in the third wavelength band to the fluorescence signal spectrum in the first wavelength band is not lower than the fourth threshold on the lower limit side or smaller than the fifth threshold on the upper limit side. 3. The fluorescence endoscope apparatus according to claim 1, wherein when the threshold value is not greater than 6 or less than the seventh threshold value on the upper limit side, it is determined that the possibility of residual fluorescence is low. .
前記スペクトル生成手段は、前記励起光をカットして複数の帯域の蛍光を透過させる複数帯域透過フィルタを有し、 The spectrum generating means has a multi-band transmission filter that cuts the excitation light and transmits a plurality of bands of fluorescence,
前記複数帯域透過フィルタを透過した蛍光に基づき前記蛍光信号スペクトルを生成することを特徴とする請求項1−5のいずれか一項に記載の蛍光内視鏡装置。 The fluorescence endoscope apparatus according to claim 1, wherein the fluorescence signal spectrum is generated based on fluorescence transmitted through the multiband transmission filter.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2005321314A JP5114003B2 (en) | 2005-11-04 | 2005-11-04 | Fluorescence endoscope device |
| US11/327,865 US20060173358A1 (en) | 2005-01-11 | 2006-01-09 | Fluorescence observation endoscope apparatus and fluorescence observation method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2005321314A JP5114003B2 (en) | 2005-11-04 | 2005-11-04 | Fluorescence endoscope device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2007125245A JP2007125245A (en) | 2007-05-24 |
| JP5114003B2 true JP5114003B2 (en) | 2013-01-09 |
Family
ID=38148407
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2005321314A Expired - Fee Related JP5114003B2 (en) | 2005-01-11 | 2005-11-04 | Fluorescence endoscope device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5114003B2 (en) |
Families Citing this family (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4954858B2 (en) * | 2007-11-30 | 2012-06-20 | オリンパス株式会社 | Fluorescence observation apparatus and endoscope apparatus |
| JP5074256B2 (en) | 2008-03-24 | 2012-11-14 | オリンパス株式会社 | Fluorescence observation equipment |
| JP5587020B2 (en) * | 2010-04-19 | 2014-09-10 | 富士フイルム株式会社 | Endoscope apparatus, operation method and program for endoscope apparatus |
| JP5675187B2 (en) * | 2010-06-30 | 2015-02-25 | オリンパス株式会社 | Fluorescence observation equipment |
| JP5466182B2 (en) * | 2011-01-11 | 2014-04-09 | 富士フイルム株式会社 | Endoscope system and method for operating endoscope system |
| JP5363680B2 (en) | 2011-09-22 | 2013-12-11 | オリンパスメディカルシステムズ株式会社 | Medical equipment |
| WO2013100030A1 (en) * | 2011-12-28 | 2013-07-04 | オリンパス株式会社 | Fluorescent light observation device, fluorescent light observation method, and fluorescent light observation device function method |
| CN104853666B (en) * | 2012-12-13 | 2016-11-02 | 奥林巴斯株式会社 | Fluorescence observation device |
| JP6448509B2 (en) | 2015-10-30 | 2019-01-09 | 富士フイルム株式会社 | Endoscope system, processor device, and operation method of endoscope system |
| WO2017077882A1 (en) | 2015-11-04 | 2017-05-11 | オリンパス株式会社 | Image processing device, endoscope system, image processing method, and image processing program |
| CN115279243A (en) * | 2020-03-02 | 2022-11-01 | 奥林巴斯株式会社 | Endoscope dirt detection device, endoscope reprocessor, and endoscope dirt detection method |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH1024010A (en) * | 1996-07-11 | 1998-01-27 | Asahi Optical Co Ltd | Fluorescent endoscope device |
| JP3962122B2 (en) * | 1996-11-20 | 2007-08-22 | オリンパス株式会社 | Endoscope device |
| JP3862582B2 (en) * | 2001-06-29 | 2006-12-27 | 富士フイルムホールディングス株式会社 | Fluorescence image acquisition method, apparatus and program |
| JP4772235B2 (en) * | 2001-09-13 | 2011-09-14 | オリンパス株式会社 | Endoscope device |
| JP4311607B2 (en) * | 2002-05-27 | 2009-08-12 | 富士フイルム株式会社 | Fluorescence diagnostic information generation method and apparatus |
| JP2004008230A (en) * | 2002-06-03 | 2004-01-15 | Fuji Photo Film Co Ltd | Fluorescent diagnostic information producing apparatus |
| JP4663273B2 (en) * | 2003-08-08 | 2011-04-06 | オリンパス株式会社 | Capsule type optical sensor and diagnostic device using the same |
-
2005
- 2005-11-04 JP JP2005321314A patent/JP5114003B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2007125245A (en) | 2007-05-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6184571B2 (en) | Fluorescence observation endoscope system | |
| US20060173358A1 (en) | Fluorescence observation endoscope apparatus and fluorescence observation method | |
| JP5502812B2 (en) | Biological information acquisition system and method of operating biological information acquisition system | |
| JP4554944B2 (en) | Endoscope device | |
| JP5351924B2 (en) | Biological information acquisition system and method of operating biological information acquisition system | |
| JP4681981B2 (en) | Electronic endoscope device | |
| JP5073579B2 (en) | Imaging device | |
| JP5329593B2 (en) | Biological information acquisition system and method of operating biological information acquisition system | |
| WO2018034075A1 (en) | Imaging system | |
| JP4855728B2 (en) | Illumination device and observation device | |
| JP2002051969A (en) | Electronic endoscope device | |
| JP5114003B2 (en) | Fluorescence endoscope device | |
| WO2010021160A1 (en) | Imaging system and endoscope system | |
| WO2017047140A9 (en) | Endoscopic device | |
| JP5766773B2 (en) | Endoscope system and method for operating endoscope system | |
| JPH11104061A (en) | Trans-endoscopic fluorescent observation device | |
| JP4989036B2 (en) | Signal processing apparatus for electronic endoscope and electronic endoscope apparatus | |
| JP2005058618A (en) | Endoscope and cap | |
| CN115243598B (en) | Medical image processing apparatus, medical imaging apparatus, medical observation system, image processing method and storage medium | |
| JP4459709B2 (en) | Fluorescence observation endoscope device | |
| JP5331394B2 (en) | Endoscope device | |
| JP4459710B2 (en) | Fluorescence observation endoscope device | |
| JP4242578B2 (en) | Endoscope device | |
| JP4716801B2 (en) | Endoscopic imaging system | |
| JP4526322B2 (en) | Endoscope device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081021 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110517 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110519 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110715 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120717 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120918 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121009 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121015 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151019 Year of fee payment: 3 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5114003 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151019 Year of fee payment: 3 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |