JP5068036B2 - Spectral image processing device - Google Patents
Spectral image processing device Download PDFInfo
- Publication number
- JP5068036B2 JP5068036B2 JP2006139955A JP2006139955A JP5068036B2 JP 5068036 B2 JP5068036 B2 JP 5068036B2 JP 2006139955 A JP2006139955 A JP 2006139955A JP 2006139955 A JP2006139955 A JP 2006139955A JP 5068036 B2 JP5068036 B2 JP 5068036B2
- Authority
- JP
- Japan
- Prior art keywords
- spectral
- image
- images
- primary color
- wavelength
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Endoscopes (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本発明は、内視鏡により測定対象を撮影し各波長毎に取得した分光画像を用いて処理画像を生成する分光画像処理方法および装置ならびにプログラムに関するものである。 The present invention relates to a spectral image processing method, apparatus, and program for generating a processed image using a spectral image obtained by photographing an object to be measured with an endoscope and acquired for each wavelength.
内視鏡検査では、組織の性状や病変を隆起・陥没・表面模様などの形状変化や色調の微妙な変化から読み取る。この形状変化等を認識できるかどうかは患部からの光の波長の特定および観察方法に大きく依存する。従来、光学フィルタを使って波長を特定し観察する方法が提案されているが、この方法では一つの波長域の画像しか得ることができず、他の波長で観察するためにはフィルタの交換が必要である。そこで、近年、通常の画像から任意の波長における画像をコンピュータの演算処理によって推定して画像化を行う分光推定技術を内視鏡検査用途に応用したものが開発されている。そして、医師が検査の内容に応じて観察したい光の波長を選択することにより、内視鏡画像から選択した波長の分光画像を見ることができる。 In endoscopy, tissue properties and lesions are read from shape changes such as bumps, depressions and surface patterns, and subtle changes in color tone. Whether or not the shape change can be recognized depends largely on the identification of the wavelength of light from the affected area and the observation method. Conventionally, a method of specifying and observing a wavelength using an optical filter has been proposed, but this method can only obtain an image in one wavelength region, and in order to observe at another wavelength, the filter must be replaced. is necessary. Therefore, in recent years, a technique in which a spectral estimation technique for estimating and imaging an image at an arbitrary wavelength from a normal image by computer processing has been developed for endoscopy. Then, by selecting the wavelength of light that the doctor wants to observe according to the contents of the examination, a spectral image of the wavelength selected from the endoscopic image can be viewed.
ところで、上述した内視鏡画像に限らず眼底検査においても分光解析方法が提案されている(たとえば特許文献1参照)。特許文献1において、種々の病変部の分光データ(参照画素像)が病変毎に予め病変ライブラリに記憶されており、入力された分光データ内において、病変ライブラリに記憶されている参照画素像が存在するか否かをパターンマッチングにより検出することにより、分光データ内の病変部の位置を特定し、特定した病変部を強調して画像化しモニタに表示するようになっている。 By the way, not only the above-described endoscopic image but also a spectroscopic analysis method has been proposed for fundus examination (see, for example, Patent Document 1). In Patent Document 1, spectral data (reference pixel images) of various lesions are stored in advance in the lesion library for each lesion, and there are reference pixel images stored in the lesion library in the input spectral data. By detecting whether or not to do so by pattern matching, the position of the lesioned part in the spectroscopic data is specified, and the identified lesioned part is emphasized and imaged and displayed on the monitor.
さらに、各色波長毎の多スペクトル画像データを画像処理する方法として、多スペクトルデータの各スペクトルチャネル画像に重みを変えて加算した仮想スペクトル開口画像を3種類作成し、この3種類の仮想スペクトル開口画像をRGBに割り当て、カラー処理画像を表示する方法が提案されている(特許文献2参照)。この方法において、仮想スペクトル開口画像からカラー処理画像を生成する際、ユーザーが画面上の画像を確認しながら行うようになっている。
上述したように特許文献1において、病変部の画像を画面表示させようとした場合、予め病変部の参照画素像を記憶した病変ライブラリを作成する必要がある。しかし、患者の違いによる病変部の色のばらつき、病変による色の差、観察機種の違いによる色のばらつき等があるため、病変ライブラリが各病変部について1つの参照画素像だけ記憶しているとき病変部が検出できない場合が生じるという問題がある。一方、正確な病変部の検出を行うためには1つの病変に対し多くの参照画素像を記憶する必要があり、データベースの作成に多大な労力がかかってしまうという問題がある。 As described above, in Patent Document 1, when an image of a lesion is to be displayed on the screen, it is necessary to create a lesion library in which a reference pixel image of the lesion is stored in advance. However, when there is a variation in color of a lesion due to a difference in patients, a difference in color due to a lesion, a variation in color due to a difference in observation model, etc., the lesion library stores only one reference pixel image for each lesion. There is a problem that a lesion may not be detected. On the other hand, in order to accurately detect a lesioned part, it is necessary to store a large number of reference pixel images for one lesion, and there is a problem that a great deal of labor is required for creating a database.
さらに、特許文献2のように、カラー処理画像の作成にユーザーの操作しなければならなくなると、病変部の撮影中にカラー処理画像を確認することが困難であるという問題がある。 Furthermore, as in Patent Document 2, if a user has to operate to create a color processed image, there is a problem that it is difficult to confirm the color processed image during imaging of a lesioned part.
そこで、本発明は、病変部等の測定対象の特徴を的確に表現した処理画像を自動的に作成することができる分光画像処理方法および装置ならびにプログラムを提供することを目的とするものである。 Accordingly, an object of the present invention is to provide a spectral image processing method, apparatus, and program capable of automatically creating a processed image that accurately represents the characteristics of a measurement target such as a lesion.
本発明の分光画像処理方法は、測定対象を撮影し取得された複数の分光画像を用いて原色信号からなる処理画像を生成する画像処理方法において、複数の分光画像から特徴量を抽出し、抽出した特徴量を用いて複数の分光画像を評価し、該複数の分光画像のうち評価の高い分光画像を選択し、選択した分光画像を原色信号に割り当てることにより処理画像を生成することを特徴とするものである。 The spectral image processing method of the present invention extracts and extracts feature amounts from a plurality of spectral images in an image processing method for generating a processed image composed of primary color signals using a plurality of spectral images obtained by photographing a measurement object. A plurality of spectral images are evaluated using the feature amount, a spectral image having a high evaluation is selected from the plurality of spectral images, and a processed image is generated by assigning the selected spectral image to a primary color signal. To do.
本発明の分光画像処理装置は、測定対象を撮影し取得された複数の分光画像を用いて原色信号からなる処理画像を生成する画像処理装置において、複数の分光画像から特徴量を抽出する特徴量抽出手段と、特徴量抽出手段により抽出された特徴量を用いて複数の分光画像を評価し、該複数の分光画像のうち評価の高い分光画像を選択する画像選択手段と、画像選択手段により選択された分光画像を原色信号に割り当てることにより処理画像を生成する画像生成手段とを備えたことを特徴とするものである。 The spectral image processing apparatus of the present invention is a feature quantity for extracting a feature quantity from a plurality of spectral images in an image processing apparatus that generates a processed image composed of primary color signals using a plurality of spectral images obtained by photographing a measurement object. An extraction unit, an image selection unit that evaluates a plurality of spectral images using the feature amounts extracted by the feature amount extraction unit, and selects a spectral image having a high evaluation among the plurality of spectral images, and a selection by the image selection unit And an image generation means for generating a processed image by assigning the spectral image thus obtained to a primary color signal.
本発明の分光画像処理プログラムは、コンピュータに、測定対象を撮影し取得された複数の分光画像を用いて複数の原色信号からなる処理画像を生成することを実行させるための分光画像処理プログラムにおいて、複数の分光画像から特徴量を抽出し、抽出した特徴量を用いて複数の分光画像を評価し該複数の分光画像のうち評価の高い分光画像を選択し、選択した分光画像を原色信号に割り当てることにより処理画像を生成することを特徴とするものである。 A spectral image processing program of the present invention is a spectral image processing program for causing a computer to generate a processed image composed of a plurality of primary color signals using a plurality of spectral images obtained by photographing a measurement object. Feature values are extracted from a plurality of spectral images, a plurality of spectral images are evaluated using the extracted feature amounts, a spectral image having a high evaluation is selected from the plurality of spectral images, and the selected spectral image is assigned to a primary color signal. Thus, a processed image is generated.
ここで、画像選択手段は1枚の分光画像を選択するものであっても良いし、複数の分光画像を選択するものであっても良い。また、処理画像はどのような表色系を用いても良く、たとえばレッド、グリーン、ブルーの各原色信号からなるRGB表色系を用いても良いし、グリーンとブルーといった2色の表色系からなるものであってもよい。 Here, the image selection means may select one spectral image, or may select a plurality of spectral images. The processed image may use any color system, for example, an RGB color system composed of primary color signals of red, green, and blue, or a color system of two colors such as green and blue. It may consist of.
また、抽出される特徴量はどのようなものであってもよく、たとえばエッジ強度であってもよいし、フーリエ変換もしくはウェーブレット変換により空間周波数変換された複数の空間周波数変換画像から抽出されたもの、明るさ、色、色相、彩度、テクスチャ情報もしくはコントラスト等であってもよい。なお、空間周波数変換画像はたとえば各分光画像にフーリエ変換を施すことにより得られる複数のパワースペクトル画像もしくは各分光画像にウェーブレット変換を施すことにより得られる複数の多重解像度画像等のようなものであり、複数の分光画像毎に特徴量を抽出するとき、この複数の多重解像度画像のうち所定の空間周波数帯域の空間周波数変換画像から抽出するようにしてもよい。 The extracted feature quantity may be any kind, for example, edge intensity, or extracted from a plurality of spatial frequency transformed images that have been spatial frequency transformed by Fourier transform or wavelet transform. , Brightness, color, hue, saturation, texture information, or contrast. The spatial frequency converted image is, for example, a plurality of power spectrum images obtained by performing Fourier transform on each spectral image or a plurality of multi-resolution images obtained by performing wavelet transform on each spectral image. When extracting the feature amount for each of the plurality of spectral images, the feature amount may be extracted from a spatial frequency converted image in a predetermined spatial frequency band among the plurality of multi-resolution images.
なお、特徴量の評価は特徴量が示す特徴的構造を多く含んでいるか否かの評価であり、評価が高いとは複数の分光画像を特徴量を用いて評価したときの相対的な順位をいう。ここで、画像選択手段は特徴量の評価を用いて分光画像を選択するものであればその手法を問わず、たとえば特徴量の評価の高い順に複数の分光画像を選択するようにしてもよい。このとき、画像処理手段は画像選択手段により選択された複数の分光画像の分光波長の長いものから順に、R、G、Bの原色信号に割り当てるようにしてもよい。なお、画像選択手段は複数の分光画像を選択するときに、分光波長がそれぞれ30nm以上離れた分光画像を選択することが好ましい。 Note that the evaluation of the feature amount is an evaluation of whether or not it includes many characteristic structures indicated by the feature amount, and high evaluation means a relative rank when a plurality of spectral images are evaluated using the feature amount. Say. Here, the image selection means may select a plurality of spectral images in descending order of evaluation of the feature amount, for example, as long as it selects the spectral image using the evaluation of the feature amount. At this time, the image processing unit may assign the R, G, and B primary color signals in order from the longest spectral wavelength of the plurality of spectral images selected by the image selection unit. In addition, when the image selection means selects a plurality of spectral images, it is preferable to select spectral images each having a spectral wavelength separated by 30 nm or more.
あるいは、画像選択手段はR、G、Bの各原色信号の波長帯域毎に最も評価の高い分光画像を選択するようにしてもよい。このとき、画像処理手段は画像選択手段により選択された複数の分光画像をそれぞれR、G、Bの原色信号に割り当てるようにしてもよい。この場合も、画像選択手段は複数の分光画像を選択するときに、分光波長がそれぞれ30nm以上離れた分光画像を選択することが好ましい。 Alternatively, the image selection means may select the spectral image having the highest evaluation for each wavelength band of the R, G, and B primary color signals. At this time, the image processing means may assign a plurality of spectral images selected by the image selection means to R, G, and B primary color signals, respectively. In this case as well, it is preferable that the image selecting means selects a spectral image having a spectral wavelength of 30 nm or more when selecting a plurality of spectral images.
さらに、抽出される特徴量は1つであっても良いし複数であってもよい。特徴量抽出手段が各分光画像から複数の特徴量を抽出するとき、性質の異なる複数の特徴量を抽出することが好ましい。たとえば特徴量として上述したエッジ強度、空間周波数変換を施し抽出されたもの、一定波長離れた分光画像間の微分値等を用いるようにしてもよい。 Furthermore, the feature quantity to be extracted may be one or plural. When the feature quantity extraction unit extracts a plurality of feature quantities from each spectral image, it is preferable to extract a plurality of feature quantities having different properties. For example, the above-described edge intensity, the one extracted by performing spatial frequency conversion, the differential value between spectral images separated by a certain wavelength, or the like may be used as the feature amount.
このとき、画像選択手段は複数の特徴量毎に複数の分光画像を評価し、複数の分光画像のうち評価の高い分光画像を各特徴量毎に選択するものであってもよい。そして、画像生成手段が複数の特徴量毎にそれぞれ選択された複数の分光画像を原色信号に割り当てることにより処理画像を生成するものであってもよい。 At this time, the image selection means may evaluate a plurality of spectral images for each of a plurality of feature amounts, and select a spectral image having a high evaluation among the plurality of spectral images for each feature amount. The image generation means may generate a processed image by assigning a plurality of spectral images respectively selected for a plurality of feature amounts to primary color signals.
たとえば、画像選択手段は複数の特徴量毎に最も評価の高い分光画像をそれぞれ選択するものであってもよい。このとき、画像生成手段は画像選択手段により選択された複数の分光画像の分光波長の長いものから順に、R、G、Bの原色信号に割り当てるようにしてもよい。 For example, the image selection means may select a spectral image having the highest evaluation for each of a plurality of feature amounts. At this time, the image generation unit may assign the R, G, and B primary color signals in order from the longest spectral wavelength of the plurality of spectral images selected by the image selection unit.
あるいは、画像選択手段は特徴量の評価の高い順に複数の分光画像を各特徴量毎に選択するようにしてもよい。このとき、画像生成手段は各特徴量の評価が同一順位の分光画像を加算したものをR、G、Bの原色信号に割り当てるようにしてもよい。 Alternatively, the image selection unit may select a plurality of spectral images for each feature amount in descending order of the feature amount evaluation. At this time, the image generation means may assign the spectral image having the same rank evaluation to each feature amount to the R, G, and B primary color signals.
さらには、画像処理手段は各原色信号の波長帯域毎に最も評価の高い分光画像を複数の特徴量毎にそれぞれ選択するようにしてもよい。このとき、画像生成手段は各原色信号の波長帯域毎に選択された各特徴量の複数の分光画像を加算したものを各原色信号に割り当てるようにしてもよい。 Further, the image processing means may select the spectral image having the highest evaluation for each wavelength band of each primary color signal for each of a plurality of feature amounts. At this time, the image generation means may assign a sum of a plurality of spectral images of each feature amount selected for each wavelength band of each primary color signal to each primary color signal.
なお、画像選択手段が各特徴量を用いて分光画像を選択するとき、分光波長が30nm以上離れている分光画像を選択することが好ましい。 Note that when the image selection unit selects a spectral image using each feature amount, it is preferable to select a spectral image having a spectral wavelength of 30 nm or more.
本発明の分光画像処理方法および装置ならびにプログラムによれば、複数の分光画像から特徴量を抽出し、抽出した特徴量を用いて複数の分光画像を評価し、複数の分光画像のうち評価の高い分光画像を選択し、選択した各波長帯域毎の分光画像を原色信号に割り当てることにより処理画像を生成することにより、従来のように病変の種類と分光分布との関係を示すデータベースを用いることなく、測定対象の観察に有効な分光画像を自動的に選択し処理画像を生成することができる。 According to the spectral image processing method, apparatus, and program of the present invention, feature amounts are extracted from a plurality of spectral images, a plurality of spectral images are evaluated using the extracted feature amounts, and a high evaluation among the plurality of spectral images. By selecting a spectral image and generating a processed image by assigning a spectral image for each selected wavelength band to the primary color signal, without using a database indicating the relationship between the type of lesion and the spectral distribution as in the past It is possible to automatically select a spectral image effective for observation of the measurement object and generate a processed image.
なお、画像選択手段が特徴量の評価の高い順に複数の分光画像を選択するものであり、画像処理手段が画像選択手段により選択された複数の分光画像の分光波長の長いものから順に、R、G、Bの原色信号に割り当てるものであるとき、特徴量の示す測定対象の観察に有効な特徴的構造を最も有している分光画像を選択して測定対象の観察に適した処理画像を生成することができる。 The image selection unit selects a plurality of spectral images in descending order of evaluation of the feature amount, and the image processing unit selects R, in order from the longest spectral wavelength of the plurality of spectral images selected by the image selection unit. When assigned to the primary color signals of G and B, a spectral image having the most characteristic structure effective for observing the measurement target indicated by the feature value is selected to generate a processed image suitable for the observation of the measurement target. can do.
また、画像選択手段がR、G、Bの各原色信号の波長帯域毎に最も評価の高い分光画像を選択するものであり、画像処理手段が画像選択手段により選択された複数の分光画像をそれぞれR、G、Bの原色信号に割り当てるものであれば、特徴量の示す測定対象の観察に有効な特徴的構造を最も有している分光画像を原色信号の各波長帯域毎に選択して測定対象の実際の色に近い測定対象の観察に適した処理画像を生成することができる。 Further, the image selection means selects the spectral image having the highest evaluation for each wavelength band of the R, G, and B primary color signals, and the image processing means respectively selects a plurality of spectral images selected by the image selection means. If assigned to the primary color signals of R, G, and B, the spectral image having the most characteristic structure effective for observing the measurement target indicated by the feature value is selected and measured for each wavelength band of the primary color signal. A processed image suitable for observing a measurement object close to the actual color of the object can be generated.
また、特徴量抽出手段が各分光画像から複数の特徴量を抽出するものであり、画像選択手段が各特徴量を用いて複数の分光画像を評価することにより、前記複数の分光画像のうち評価の高い分光画像を各特徴量毎に選択するものであり、画像生成手段が複数の特徴量毎にそれぞれ選択された複数の分光画像を原色信号に割り当てることにより処理画像を生成するものであれば、複数の分光画像から処理画像が生成されるため、測定対象の観察により適した処理画像を自動的に生成することができる。 In addition, the feature amount extraction unit extracts a plurality of feature amounts from each spectral image, and the image selection unit evaluates the plurality of spectral images using each feature amount, thereby evaluating the plurality of spectral images. High spectral images for each feature amount, and the image generation means generates a processed image by assigning a plurality of spectral images selected for each of the plurality of feature amounts to primary color signals. Since the processed image is generated from the plurality of spectral images, it is possible to automatically generate a processed image that is more suitable for observation of the measurement target.
なお、画像選択手段が複数の特徴量毎に最も評価の高い分光画像をそれぞれ選択するものであり、画像生成手段が画像選択手段により選択された複数の分光画像の分光波長の長いものから順に、R、G、Bの原色信号に割り当てるものであれば、複数の特徴量の示す測定対象の観察に有効な特徴的構造を最も有している分光画像を選択して測定対象の観察に適した処理画像を生成することができる。 The image selection means selects the spectral image with the highest evaluation for each of the plurality of feature amounts, and the image generation means sequentially selects the spectral images having the longest spectral wavelengths selected by the image selection means. If it is assigned to the primary color signals of R, G, and B, it is suitable for observation of the measurement object by selecting the spectral image having the most characteristic structure effective for observation of the measurement object indicated by the plurality of feature values. A processed image can be generated.
さらに、画像選択手段が特徴量の評価の高い順に複数の分光画像を各特徴量毎に選択するものであり、画像生成手段が各特徴量の評価が同一順位の分光画像を加算したものをR、G、Bの原色信号に割り当てるものであるとき、複数の特徴量の示す測定対象の観察に有効な特徴的構造を最も有している分光画像を原色信号の各波長帯域毎に選択して測定対象の実際の色に近い測定対象の観察に適した処理画像を生成することができる。 Further, the image selection unit selects a plurality of spectral images for each feature amount in descending order of the feature amount evaluation, and the image generation unit adds R spectral images having the same rank in the evaluation of each feature amount. , G, and B are assigned to the primary color signals, the spectral image having the most characteristic structure effective for observing the measurement target indicated by the plurality of feature amounts is selected for each wavelength band of the primary color signals. A processed image suitable for observing the measurement object close to the actual color of the measurement object can be generated.
以下、図面を参照して本発明の好ましい実施の形態を詳細に説明する。図1は本発明の分光画像処理装置の好ましい実施の形態を示すブロック図である。なお、図1のような分光画像処理装置1の構成は、補助記憶装置に読み込まれた分光画像処理プログラムをコンピュータ(たとえばパーソナルコンピュータ等)上で実行することにより実現される。このとき、この分光画像処理プログラムは、CD−ROM等の情報記憶媒体に記憶され、もしくはインターネット等のネットワークを介して配布され、コンピュータにインストールされることになる。なお、上述したコンピュータ上で実現する場合に限らず内視鏡システム自体に図1に示すような分光画像処理装置1の構成を組み込み、内視鏡による撮影と処理画像の表示とがリアルタイム処理されるようなものであってもよい。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a preferred embodiment of the spectral image processing apparatus of the present invention. The configuration of the spectral image processing apparatus 1 as shown in FIG. 1 is realized by executing a spectral image processing program read into the auxiliary storage device on a computer (for example, a personal computer). At this time, the spectral image processing program is stored in an information storage medium such as a CD-ROM or distributed via a network such as the Internet and installed in a computer. The configuration of the spectral image processing apparatus 1 as shown in FIG. 1 is incorporated in the endoscope system itself, not limited to the case where it is realized on the above-described computer, and imaging with the endoscope and display of the processed image are processed in real time. It may be something like this.
分光画像処理装置1は、たとえば病巣等の測定対象を内視鏡を用いて撮影し取得された複数の分光画像SPを用いて複数の原色信号からなる処理画像CPを生成するものであって、複数の分光画像SPを取得する分光画像取得手段10と、複数の分光画像SPから特徴量Xを抽出する特徴量抽出手段20と、各分光画像SPの特徴量Xを評価することにより、各原色信号の波長帯域毎に最も評価の高い分光画像SPを選択する画像選択手段30と、選択された各波長帯域毎の分光画像SPを原色信号に割り当てることにより処理画像CPを生成する画像生成手段40とを備えている。
The spectral image processing apparatus 1 generates a processed image CP composed of a plurality of primary color signals using a plurality of spectral images SP obtained by photographing a measurement target such as a lesion using an endoscope, for example. A spectral
分光画像取得手段10は、測定対象から反射した光の各波長毎の分光画像SP1〜SPk(k:分光画像の枚数)を取得するものであって、たとえば分光画像取得手段10は、図2に示すような400nm〜700nm(可視領域)までの波長帯域を5nm間隔で取得された複数の分光画像SP1〜SPkを取得するようになっている。なお、この複数の分光画像SP1〜SPkは測定対象から反射した光を分光して取得されたものに限らず、特開2003−93336号公報に開示されているように内視鏡を用いた撮影により取得したRGB信号からなる画像から各波長毎に生成された分光推定画像であってもよい。 The spectral image acquisition means 10 acquires spectral images SP 1 to SP k (k: the number of spectral images) for each wavelength of light reflected from the measurement object. For example, the spectral image acquisition means 10 A plurality of spectral images SP 1 to SP k acquired in a wavelength band from 400 nm to 700 nm (visible region) as shown in 2 at intervals of 5 nm are acquired. Note that the plurality of spectral images SP 1 to SP k are not limited to those obtained by spectroscopically reflecting light reflected from the measurement target, but use an endoscope as disclosed in Japanese Patent Laid-Open No. 2003-93336. Alternatively, it may be a spectral estimation image generated for each wavelength from an image made up of RGB signals acquired by conventional photographing.
特徴量抽出手段20は各分光画像SP1〜SPkからそれぞれ特徴量Xを抽出するものであり、たとえば分光画像SPのエッジ強度を特徴量Xとして抽出する機能を有している。具体的には、図3(A)に示すような分光画像SPがあるとき、特徴量抽出手段20は図3(B)に示すような分光画像SPのエッジ成分を抽出し、抽出したエッジ成分の強度を検出するようになっている。すると、図3(C)に示すようなエッジ強度における複数の分光画像SP1〜SPk(分光波長)の評価が判明する。
The feature
なお、特徴量抽出手段20はエッジ強度を特徴量Xとして抽出する場合について例示しているが、図4(A)のような分光画像SPにフーリエ変換処理を施すことにより、図4(B)に示すような複数のパワースペクトル画像を生成し、図4(C)に示すような複数の分光画像SP1〜SPk(分光波長)における空間周波数および画素数の3次元の関係から、たとえば複数のパワースペクトル画像のうち所定の空間周波数帯域のパワースペクトル画像の画素数もしくは濃度分散等を特徴量X2として抽出するようにしてもよい。
Note that the feature
あるいは、図5(A)のような分光画像SPにウェーブレット変換処理を施すことにより、図5(B)に示すような複数の多重解像度画像を生成し、図5(C)に示すような複数の分光画像SP1〜SPk(分光波長)に対する空間周波数および画素数の3次元の関係から、たとえばたとえば複数の多重解像度画像のうち所定の空間周波数帯域の多重解像度画像の画素数もしくは濃度分散等を特徴量X2として抽出するようにしてもよい。 Alternatively, by applying wavelet transform processing to the spectral image SP as shown in FIG. 5A, a plurality of multi-resolution images as shown in FIG. 5B are generated, and a plurality as shown in FIG. From the three-dimensional relationship of the spatial frequency and the number of pixels with respect to the spectral images SP 1 to SP k (spectral wavelength), for example, the number of pixels or density dispersion of a multi-resolution image in a predetermined spatial frequency band among a plurality of multi-resolution images. May be extracted as the feature amount X2.
さらには、図6(A)に示すように、分光画像SPmとこの分光画像SPmから一定波長だけ離れた分光画像SPm+nとの微分値を特徴量X3として抽出するようにしてもよい。すると図6(B)に示すような微分値に対する複数の分光画像SP1〜SPk(分光波長)の評価が判明する。 Furthermore, FIG. 6 (A), the may be extracted the differential value of the spectral image SP m spectral image SP m + n apart by a predetermined wavelength from the spectral image SP m of Toko as features X3. Then Evaluation of FIG plurality of spectral images SP 1 to SP k (spectral wavelength) with respect to differential value as shown in (B) is found.
画像選択手段30は、抽出した特徴量Xを用いて複数の分光画像SPを評価し、複数の分光画像SPのうち処理画像CPの生成に用いる分光画像SPを選択するものであって、たとえば特徴量Xの評価の高い順に複数の分光画像SPを複数選択するようになっている。つまり、図3に示すように特徴量Xが抽出されたとき、図7に示すように画像選択手段30は特徴量の評価の高い順(エッジ強度の大きい順)に分光画像SPを並べ替える。そして、画像選択手段30は評価の高い上位3つの分光画像SPD、SPB、SPCを選択するようになっている。 The image selection means 30 evaluates a plurality of spectral images SP using the extracted feature amount X, and selects a spectral image SP used to generate the processed image CP from among the plurality of spectral images SP. A plurality of spectral images SP are selected in descending order of evaluation of the amount X. In other words, when the feature amount X is extracted as shown in FIG. 3, the image selection means 30 rearranges the spectral images SP in the order of evaluation of the feature amount (in descending order of edge strength) as shown in FIG. The image selection means 30 selects the top three spectral images SP D , SP B , and SP C that are highly evaluated.
なお、画像選択手段30は複数の分光画像SPD、SPB、SPCを選択するときに、分光波長がそれぞれ30nm以上離れた分光画像を選択するようにしてもよい。たとえば、分光画像SPDの分光波長が680nmであり、分光画像SPCの分光波長が660nmであるとき、分光画像SPC、SPDは30nm以上離れていないため、画像選択手段30は分光画像SPCの代わりに次に評価の高い分光画像SPAを選択することになる。 Note that the image selection means 30 may select spectral images having a spectral wavelength of 30 nm or more when selecting a plurality of spectral images SP D , SP B , and SP C. For example, when the spectral wavelength of the spectral image SP D is 680 nm and the spectral wavelength of the spectral image SP C is 660 nm, the spectral images SP C and SP D are not separated by 30 nm or more. Instead of C, the spectral image SP A having the next highest evaluation is selected.
画像処理手段40は画像選択手段30により選択された分光画像SPを原色信号に割り当てることにより処理画像CPを生成するものであって、たとえば選択された3つの分光画像SPD、SPB、SPC(SPA)の分光波長の長いものから順に、R、G、Bの各原色信号に割り当て処理画像CPを生成するようになっている。具体的には、画像生成手段40は、図8に示すように、画像選択手段30により選択された3つの分光画像SPD、SPB、SPC(SPA)にそれぞれR信号、G信号、B信号を割り当てる。たとえば分光画像SPDの画素データをR信号の画素データとし、分光画像SPC(SPB)の画素データをG信号の画素データとし、分光画像SPB(SPA)の画素データをB信号の画素データとしてRGBのカラー画像からなる処理画像CPを生成するようになっている。
The
なお、処理画像CPを生成する際、割り当てられた各RGB信号に対しそれぞれゲイン係数を乗じたレベル調整等の公知の画像処理技術を施したものを用いるようにしてもよい。また、画像処理手段40は3つの分光画像SPD、SPB、SPC(SPA)の分光波長の長いものから順にR、G、Bの各原色信号に割り当てるようにしているが、分光画像SPD、SPB、SPC(SPA)の分光波長に依存することなく評価の高い順にR、G、Bの各原色信号を自動的に割り当てるようにしても良い。 Note that when the processed image CP is generated, a known image processing technique such as level adjustment obtained by multiplying each assigned RGB signal by a gain coefficient may be used. Further, the image processing means 40 assigns each of the three spectral images SP D , SP B , SP C (SP A ) to the R, G, B primary color signals in order from the longest spectral wavelength. R, G, and B primary color signals may be automatically assigned in the descending order of evaluation without depending on the spectral wavelengths of SP D , SP B , and SP C (SP A ).
このように、特徴量Xを用いて各原色信号毎に分光画像SPD、SPB、SPC(SPA)を選択しこれを合成して処理画像CPを生成することにより、従来のように病変の種類毎に分光分布を記録したデータベースが不要になるため、データベース作成の為の作業をなくすことができる。さらに、患者の違いによる病巣の色のばらつき、病変による色の変化、観察機種の違いによる色のばらつき等が生じた場合であっても、病巣の特徴的構造を特徴量Xとして抽出し、この特徴量Xを用いて選択された分光画像SPを用いて処理画像CPが生成されるため、病巣の特徴的構造を表した処理画像CPを精度良く生成することができる。 In this manner, by selecting the spectral images SP D , SP B , and SP C (SP A ) for each primary color signal using the feature amount X and combining them to generate the processed image CP, as in the conventional case. Since a database in which the spectral distribution is recorded for each type of lesion is not required, the work for creating the database can be eliminated. Furthermore, even if there is a variation in the color of the lesion due to patient differences, a color change due to a lesion, or a color variation due to differences in the observation model, the characteristic structure of the lesion is extracted as a feature amount X. Since the processed image CP is generated using the spectral image SP selected using the feature amount X, the processed image CP representing the characteristic structure of the lesion can be generated with high accuracy.
すなわち、病巣の画像は、患者の違いによる病巣の色のばらつき、病変による色の変化、観察機種の違いによる色のばらつき等が生じるものである。よって、予め画像ライブラリとして病変部の画像を記憶しておきテンプレートマッチング等を用いて病変部の検出を行ったとしても、上記ばらつきにより検出できない場合が生じる。一方、上述した分光画像処理装置1においては観察部位の特徴的構造を考慮した特徴量Xを用いて分光波長が選択されるものであるため、上記ばらつきに左右されることなく観察に最も適した分光画像SPを用いて処理画像を生成することができる。 That is, the lesion image has a variation in color of the lesion due to a difference in patients, a change in color due to a lesion, a variation in color due to a difference in observation model, and the like. Therefore, even if an image of a lesioned part is stored in advance as an image library and a lesioned part is detected using template matching or the like, there may be a case where the lesioned part cannot be detected due to the variation. On the other hand, in the spectral image processing apparatus 1 described above, since the spectral wavelength is selected using the feature amount X in consideration of the characteristic structure of the observation site, the spectral image processing apparatus 1 is most suitable for observation without being influenced by the above-described variation. A processed image can be generated using the spectral image SP.
また、原色信号に割り当てる分光波長は自動的に選択されるため、従来のように手動で有効な分光画像を選択する必要がなく、検査中であってもリアルタイムに近い時間で分光波長を選択することができ、観察部位毎に迅速に分光波長を切り替えることができる。 In addition, since the spectral wavelength assigned to the primary color signal is automatically selected, there is no need to manually select an effective spectral image as in the prior art, and the spectral wavelength is selected in near real time even during inspection. The spectral wavelength can be switched quickly for each observation site.
さらに、特徴量Xの評価の高い順に複数の分光画像SPを選択し複数の分光画像SPD、SPB、SPC(SPA)の分光波長の長いものから順に、R、G、Bの原色信号に割り当てることにより、特徴量Xの示す測定対象の観察に有効な特徴的構造を最も有している分光画像SPを選択して測定対象の観察に適した処理画像CPを生成することができる。よって、測定対象毎に抽出する特徴量の種類を変えて分光画像SPを選択し、測定対象の種類に合った処理画像CPを生成することもできる。 Further, a plurality of spectral images SP are selected in descending order of evaluation of the feature amount X, and the primary colors of R, G, and B are sequentially selected in descending order of spectral wavelengths of the plurality of spectral images SP D , SP B , SP C (SP A ). By assigning to the signal, it is possible to select the spectral image SP having the most characteristic structure effective for the observation of the measurement target indicated by the feature amount X and generate the processed image CP suitable for the observation of the measurement target. . Therefore, the spectral image SP can be selected by changing the type of feature amount extracted for each measurement target, and a processed image CP suitable for the type of measurement target can be generated.
図9は本発明の分光画像処理方法の好ましい実施の形態を示すフローチャートであり、図1から図9を参照して分光画像処理方法について説明する。まず、分光画像取得手段10により測定対象の複数の分光画像SP1〜SPkが取得される(ステップST1、図2参照)。次に、特徴量抽出手段20において複数の分光画像SP1〜SPkからそれぞれ特徴量(エッジ強度)Xが抽出される(ステップST2、図3〜図6参照)。そして、画像選択手段30において、この複数の特徴量Xの大きい順に分光画像SPD、SPB、SPCが選択される(ステップST3、図7参照)。なお、上述したように、複数の分光画像SPを選択するときに、分光波長がそれぞれ30nm以上離れた分光画像SPD、SPB、SPAを選択するようにしてもよい。その後、画像生成手段に40おいて、各分光画像SPD、SPB、SPC(SPA)がR信号、G信号、B信号に割り当てられ、(ステップST4)処理画像CPが生成される(ステップST5、図8参照)。これにより、患者の違いによる病巣の色のばらつき、病変による色の変化、観察機種の違いによる色のばらつき等が生じた場合であっても、病巣の特徴的構造を特徴量Xとして抽出し、この特徴量Xを用いて選択された分光画像SPD、SPB、SPC(SPA)を用いて処理画像CPが生成されるため、病巣の特徴的構造を表した処理画像CPを精度良く生成することができる。 FIG. 9 is a flowchart showing a preferred embodiment of the spectral image processing method of the present invention. The spectral image processing method will be described with reference to FIGS. First, a plurality of spectral images SP 1 to SP k to be measured are acquired by the spectral image acquisition means 10 (see step ST1, FIG. 2). Next, the feature amount extraction means 20 extracts feature amounts (edge strength) X from the plurality of spectral images SP 1 to SP k , respectively (step ST2, see FIGS. 3 to 6). Then, in the image selection means 30, the spectral images SP D , SP B , and SP C are selected in descending order of the plurality of feature amounts X (see step ST3, FIG. 7). As described above, when selecting a plurality of spectral images SP, spectral images SP D , SP B and SP A each having a spectral wavelength of 30 nm or more may be selected. Thereafter, in the image generating means 40, each spectral image SP D , SP B , SP C (SP A ) is assigned to the R signal, G signal, and B signal (step ST4), and the processed image CP is generated (step ST4). Step ST5, see FIG. 8). As a result, even if there is a variation in the color of the lesion due to a difference in the patient, a color change due to a lesion, a color variation due to a difference in the observation model, etc., the characteristic structure of the lesion is extracted as the feature amount X, Since the processed image CP is generated using the spectral images SP D , SP B , and SP C (SP A ) selected using the feature amount X, the processed image CP representing the characteristic structure of the lesion is accurately obtained. Can be generated.
ここで、上記実施の形態において、評価の高い順に処理画像CPの生成に用いる分光画像SPD、SPB、SPC(SPA)を選択しているが、R、G、Bの各原色信号の波長帯域毎に最も評価の高い分光画像CPを選択するようにしてもよい。つまり、画像選択手段30は、特徴量抽出手段20において抽出された特徴量Xを用いて複数の分光画像SP1〜SPkを評価することにより、各原色信号(R信号、G信号、B信号)の波長帯域内において最も評価の高い分光画像SPを各原色信号毎にする機能を有している。たとえば図7のように、分光画像SPD(680nm)、SPB(520nm)、SPC(660nm)、SPA(450nm)の順に特徴量Xの評価が高かったものとする。すると、画像選択手段30は複数の原色信号が表現できる波長帯域(R信号:約600nm〜700nm、G信号:約500nm〜600nm、B信号:約400nm〜500nm)毎に特徴量Xが最も評価の高い分光画像SPを選択する。つまり、R信号の波長帯域ではSPDが選択され、G信号の波長帯域ではSPBが選択され、B信号の波長帯域ではSPAが選択される。なお、この場合であっても画像選択手段30は複数の分光画像SPを選択するときに、分光波長がそれぞれ30nm以上離れた分光画像を選択ようになっている。
Here, in the above embodiment, the spectral images SP D , SP B , and SP C (SP A ) used for generating the processed image CP are selected in descending order of evaluation, but the primary color signals of R, G, and B are selected. The spectral image CP having the highest evaluation may be selected for each wavelength band. That is, the
そして、画像処理手段40は画像選択手段30により選択された複数の分光画像SPDをR信号、分光画像SPBをG信号、分光画像SPAをB信号の原色信号に割り当て処理画像CPを生成する。ここで、すべての分光画像SPを評価した後に分光画像SPを選択するようにしているが、複数の分光画像SP1〜SPkをR信号の波長帯域、G信号の波長帯域およびB信号の波長帯域に分類し、3つの分類の中から最も評価の高い分光画像SPを選択するようにしても良い。
Then, the
この場合であっても、データベース作成の為の作業をなくし、病巣の特徴的構造を表した処理画像CPを精度良く生成することができるとともに、検査中であってもリアルタイムに近い時間で分光波長を選択することができ、観察部位毎に迅速に分光波長を切り替えることができる。さらに、R、G、Bの各原色信号の波長帯域毎に最も評価の高い分光画像SPD、SPB、SPAを選択し、複数の分光画像SPをそれぞれR、G、Bの原色信号に割り当てることにより、特徴量Xの示す測定対象の観察に有効な特徴的構造を最も有している分光画像SPを原色信号の各波長帯域毎に選択して測定対象の実際の色に近い測定対象の観察に適した処理画像CPを生成することができる。 Even in this case, the processing for creating the database can be eliminated, and the processed image CP representing the characteristic structure of the lesion can be accurately generated, and the spectral wavelength can be measured in near real time even during the examination. Can be selected, and the spectral wavelength can be quickly switched for each observation site. Further, the spectral image SP D , SP B , SP A having the highest evaluation is selected for each wavelength band of the R, G, B primary color signals, and the plurality of spectral images SP are respectively converted into R, G, B primary color signals. By assigning the spectral image SP having the most characteristic structure effective for observing the measurement target indicated by the feature amount X for each wavelength band of the primary color signal, the measurement target close to the actual color of the measurement target The processed image CP suitable for the observation can be generated.
図10から図13は本発明の分光画像処理装置における処理画像の生成の別の実施の形態を示す模式図であり、図10から図13を参照して処理画像の生成の実施形態について説明する。 FIGS. 10 to 13 are schematic views showing another embodiment of processing image generation in the spectral image processing apparatus of the present invention, and the processing image generation embodiment will be described with reference to FIGS. 10 to 13. .
図10においては、特徴量抽出手段20が上述した複数の特徴量X、X1、X2を抽出するようになっている。なお、図10においては3つの特徴量X、X1、X2を抽出する場合について例示しているが、特徴量X3を加えた4つの特徴量を用いるというように2つ以上の特徴量を抽出ものであればよい。次に画像選択手段30は、複数の特徴量X、X1、X2を用いてそれぞれ複数の分光画像SP1〜SPkを評価し、図10に示すような評価のランキングを作成する。
In FIG. 10, the feature quantity extraction means 20 extracts the plurality of feature quantities X, X1, and X2 described above. Note that FIG. 10 illustrates the case where three feature amounts X, X1, and X2 are extracted, but two or more feature amounts are extracted such that four feature amounts including the feature amount X3 are used. If it is. Next, the
そして、各特徴量X、X1、X2毎に最も評価の高い分光画像SPを選択し、これを用いて処理画像CPを生成する。具体的には、図10において画像選択手段30は複数の特徴量X、X1、X2毎にそれぞれ最も評価の高い分光画像SPD、SPE、SPPを選択する。そして、画像生成手段40は選択された複数の分光画像SPD、SPE、SPPを分光波長の長いものから順に、R、G、Bの原色信号に割り当てる。具体的にはたとえば図11のように、画像生成手段40は分光画像SPDをR信号に割り当て、SPEをG信号に割り当てSPPをB信号に割り当て処理画像CPを生成する。なお、画像選択手段30が複数の分光画像SPを選択するとき、各分光画像SPD、SPE、SPPの分光波長が30nm以上離れている分光画像SPを選択するようになっている。
Then, a spectral image SP having the highest evaluation is selected for each feature amount X, X1, and X2, and a processed image CP is generated using the selected spectral image SP. Specifically, in FIG. 10, the
この場合であっても、データベース作成の為の作業をなくし、病巣の特徴的構造を表した処理画像CPを精度良く生成することができるとともに、検査中であってもリアルタイムに近い時間で分光波長を選択することができ、観察部位毎に迅速に分光波長を切り替えることができる。さらに各特徴量X、X1、X2において最も評価の高い分光画像SPD、SPE、SPPを選択し、複数の分光画像SPD、SPE、SPPをそれぞれR、G、Bの原色信号に割り当てることにより、特徴量Xの示す測定対象の観察に有効な特徴的構造を最も有している分光画像SPD、SPE、SPPを用いた処理画像CPを生成することができる。 Even in this case, the processing for creating the database can be eliminated, and the processed image CP representing the characteristic structure of the lesion can be accurately generated, and the spectral wavelength can be measured in near real time even during the examination. Can be selected, and the spectral wavelength can be quickly switched for each observation site. Further, the spectral images SP D , SP E , SP P having the highest evaluation among the feature amounts X, X 1, X 2 are selected, and a plurality of spectral images SP D , SP E , SP P are respectively converted into R, G, B primary color signals. By assigning to, it is possible to generate a processed image CP using the spectral images SP D , SP E and SP P having the most characteristic structure effective for observing the measurement target indicated by the feature amount X.
あるいは、図10および図12に示すように、画像選択手段30は、各特徴量X、X1、X2毎にそれぞれ複数の分光画像SPを選択するようにしても良い。具体的には、画像選択手段30は各特徴量X、X1、X2において評価の高い3つの分光画像SPを選択する。具体的には、画像選択手段30は特徴量Xについて分光画像SPD、SPB、SPC、特徴量X1について分光画像SPE、SPF、SPG、特徴量X2について分光画像SPP、SPQ、SPRを選択する。なお、画像選択手段30が各特徴量X、X1、X2において複数の分光画像SPを選択するとき、分光波長が30nm以上離れている分光画像SPを選択するようになっている。そして、図12に示すように、画像生成手段40は各特徴量X、X1、X2の評価が同一順位である分光画像SP同士を加算する。つまり、画像生成手段40は最も評価の高い分光画像SPE、SPP、SPG、2番目に評価の高い分光画像SPB、SPF、SPQ、3番目に評価の高い分光画像SPE、SPP、SPGをそれぞれ加算する。そして、たとえば評価の高い順にR、G、Bの各原色信号に割り当てることにより処理画像CPを生成する。
Alternatively, as shown in FIGS. 10 and 12, the
この場合であっても、データベース作成の為の作業をなくし、病巣の特徴的構造を表した処理画像CPを精度良く生成することができるとともに、検査中であってもリアルタイムに近い時間で分光波長を選択することができ、観察部位毎に迅速に分光波長を切り替えることができる。さらに各特徴量X、X1、X2において最も評価の高い分光画像SPD、SPE、SPPを選択し、複数の分光画像SPD、SPE、SPPをそれぞれR、G、Bの原色信号に割り当てることにより、特徴量Xの示す測定対象の観察に有効な特徴的構造を最も有している分光画像SPD、SPE、SPPを用いた処理画像CPを生成することができる。 Even in this case, the processing for creating the database can be eliminated, and the processed image CP representing the characteristic structure of the lesion can be accurately generated, and the spectral wavelength can be measured in near real time even during the examination. Can be selected, and the spectral wavelength can be quickly switched for each observation site. Further, the spectral images SP D , SP E , SP P having the highest evaluation among the feature amounts X, X 1, X 2 are selected, and a plurality of spectral images SP D , SP E , SP P are respectively converted into R, G, B primary color signals. By assigning to, it is possible to generate a processed image CP using the spectral images SP D , SP E and SP P having the most characteristic structure effective for observing the measurement target indicated by the feature amount X.
さらに、原色信号(R信号、G信号、B信号)の波長帯域毎に最も評価の高い分光画像SPを選択するようにしてもよい。たとえば図10および図13に示すようにR信号の波長帯域において特徴量Xを用いたランキングでは分光画像SPD、特徴量X1では分光画像SPE、特徴量X2では分光画像SPPが選択され加算される。同様に、G信号の波長帯域において特徴量Xでは分光画像SPB、特徴量X1では分光画像SPG、特徴量X2では分光画像SPRが選択され加算される。さらに、B信号の波長帯域において特徴量Xでは分光画像SPA、特徴量X1では分光画像SPH、特徴量X2では分光画像SPSが選択され加算される。そして、画像生成手段40は複数の特徴量X、X1、X2毎にそれぞれ選択された各波長帯域毎に加算した分光画像SPを原色信号に割り当て処理画像CPを生成するようになっている。このように、各原色信号の波長帯域毎に最も評価の高い分光画像SPを複数の特徴量X、X1、X2毎にそれぞれ選択し、各原色信号の波長帯域毎に選択された各特徴量X、X1、X2の複数の分光画像SPを加算したものを各原色信号に割り当てることにより、各波長帯域において各特徴量に基づいて複数の分光画像が選択され処理画像が生成されるため、有効な分光画像の選択を精度良く行うことができ、測定対象の観察に適した処理画像を自動的に生成することができる。 Further, the spectral image SP having the highest evaluation may be selected for each wavelength band of the primary color signal (R signal, G signal, B signal). For example, as shown in FIGS. 10 and 13, spectral image SP D is selected for ranking using feature amount X in the wavelength band of the R signal, spectral image SP E is selected for feature amount X1, and spectral image SP P is selected for feature amount X2. Is done. Similarly, the feature quantity X in spectral image SP B in the wavelength band of the G signal, the feature amount X1 in the spectroscopic image SP G, the feature amount X2 in the spectroscopic image SP R is selected added. Further, in the wavelength band of the B signal, the spectral image SP A is selected for the feature amount X, the spectral image SP H is selected for the feature amount X1, and the spectral image SP S is selected for the feature amount X2. The image generating means 40 generates the processed image CP by assigning the spectral image SP added for each wavelength band selected for each of the plurality of feature amounts X, X1, and X2 to the primary color signal. In this way, the spectral image SP having the highest evaluation is selected for each of the plurality of feature amounts X, X1, and X2 for each wavelength band of each primary color signal, and each feature amount X selected for each wavelength band of each primary color signal. , X1 and X2 are added to each primary color signal, and a plurality of spectral images are selected on the basis of each feature amount in each wavelength band to generate a processed image. A spectral image can be selected with high accuracy, and a processed image suitable for observation of a measurement object can be automatically generated.
上記各実施の形態によれば、複数の分光画像SP1〜SPkからそれぞれ特徴量Xを抽出し、抽出した特徴量Xを用いて複数の分光画像SP1〜SPkを評価することにより、評価の高い分光画像SPを選択し、選択した各波長帯域毎の分光画像SPを原色信号に割り当てることにより処理画像CPを生成することにより、従来のように病変の種類と分光分布との関係を示すデータベースを用いることなく、測定対象の観察に有効な分光画像を自動的に選択し処理画像を生成することができる。 According to the foregoing embodiments, by each of a plurality of spectral images SP 1 to SP k extracts the feature quantity X, evaluating multiple spectral images SP 1 to SP k by using the extracted feature quantity X, By selecting a highly evaluated spectral image SP and assigning the selected spectral image SP for each wavelength band to a primary color signal, the processed image CP is generated, so that the relationship between the type of lesion and the spectral distribution can be obtained as in the past. Without using the database shown, it is possible to automatically select a spectral image effective for observation of the measurement object and generate a processed image.
本発明の実施の形態は、上記各実施の形態に限定されない。たとえば特徴量抽出手段20において、特徴量としてエッジ強度を検出するもしくは空間周波数変換を用いて算出する場合について例示しているが、たとえば明るさ、色、色相、彩度、テクスチャ情報もしくはコントラスト等を抽出するようにしてもよい。
Embodiments of the present invention are not limited to the above embodiments. For example, the feature
さらに、図1の特徴量抽出手段20において、分光画像SPを取得した測定対象毎に用いる特徴量Xを変更する機能を有していても良い。これにより、各測定部位(患部)の特徴的構造を最も示す特徴量Xを用いて分光画像SPの選択を行うことができる。また原色信号がRGB信号からなる場合について例示しているが、たとえばシアン、イエロー、マゼンダ、グリーンの各原色信号からなるCYMG表色系からなるものであってもよい。
Furthermore, the feature
1 分光画像処理装置
10 分光画像取得手段
20 特徴量抽出手段
30 画像選択手段
40 画像生成手段
CP 処理画像
SP1〜SPk 分光画像
X、X1、X2、X3 特徴量
1 spectral
Claims (11)
前記複数の分光画像のそれぞれから特徴量を抽出する特徴量抽出手段と、
該特徴量抽出手段により抽出された前記特徴量を用いて前記複数の分光画像を評価し、該複数の分光画像の中から前記評価が高い順に3つの分光画像を選択する画像選択手段と、
該画像選択手段により選択された前記3つの分光画像をその分光波長が長いものから順に、前記R、G、Bの原色信号にそれぞれ割り当てることにより前記処理画像を生成する画像生成手段と
を備えたことを特徴とする分光画像処理装置。 In an image processing apparatus that generates a processed image composed of primary color signals of R, G, and B using a plurality of spectral images obtained by photographing a measurement target,
Feature amount extraction means for extracting a feature amount from each of the plurality of spectral images;
An image selection unit that evaluates the plurality of spectral images using the feature amount extracted by the feature amount extraction unit, and selects three spectral images in order of the high evaluation from the plurality of spectral images;
Image generating means for generating the processed image by assigning the three spectral images selected by the image selecting means to the primary color signals of R, G, and B in order from the longest spectral wavelength. A spectral image processing apparatus.
前記複数の分光画像のそれぞれから特徴量を抽出する特徴量抽出手段と、
該特徴量抽出手段により抽出された前記特徴量を用いて前記複数の分光画像を評価し、該複数の分光画像の中から、前記R、G、Bの原色信号毎に、該原色信号の波長帯域内の分光波長を有する分光画像であって前記評価が最も高い分光画像を選択する画像選択手段と、
該画像選択手段により選択された各前記分光画像を該分光画像の分光波長が属する波長帯域の原色信号にそれぞれ割り当てることにより前記処理画像を生成する画像生成手段と
を備えたことを特徴とする分光画像処理装置。 In an image processing apparatus that generates a processed image composed of primary color signals of R, G, and B using a plurality of spectral images obtained by photographing a measurement target,
Feature amount extraction means for extracting a feature amount from each of the plurality of spectral images;
The plurality of spectral images are evaluated using the feature amounts extracted by the feature amount extraction means, and the wavelength of the primary color signal is determined for each of the R, G, and B primary color signals from the plurality of spectral images. An image selection means for selecting a spectral image having a spectral wavelength within the band and having the highest evaluation;
Spectral characteristics, comprising: an image generating means for generating the processed image by assigning each spectral image selected by the image selecting means to a primary color signal in a wavelength band to which the spectral wavelength of the spectral image belongs. Image processing device.
前記複数の分光画像のそれぞれから特徴量を抽出する特徴量抽出手段と、 Feature amount extraction means for extracting a feature amount from each of the plurality of spectral images;
該特徴量抽出手段により抽出された前記特徴量を用いて前記複数の分光画像を評価し、(a)該複数の分光画像の中から前記評価が最も高い分光画像を第1の分光画像として選択し、(b)該選択された第1の分光画像を除いた前記複数の分光画像の中で、かつ、その分光波長が前記第1の分光画像の分光波長から30nm以上離れた分光画像の中から前記評価が最も高い分光画像を第2の分光画像として選択し、(c)前記第1および第2の分光画像を除いた前記複数の分光画像の中で、かつ、その分光波長が前記第1および第2の分光画像の分光波長から30nm以上離れた分光画像の中から前記評価が最も高い分光画像を第3の分光画像として選択する画像選択手段と、 The plurality of spectral images are evaluated using the feature amounts extracted by the feature amount extraction unit, and (a) a spectral image having the highest evaluation is selected as the first spectral image from the plurality of spectral images. And (b) among the plurality of spectral images excluding the selected first spectral image and having a spectral wavelength separated by 30 nm or more from the spectral wavelength of the first spectral image. The spectral image with the highest evaluation is selected as a second spectral image from (c) the plurality of spectral images excluding the first and second spectral images, and the spectral wavelength thereof is the first spectral image. Image selecting means for selecting, as a third spectral image, a spectral image having the highest evaluation from spectral images separated by 30 nm or more from the spectral wavelengths of the first and second spectral images;
該画像選択手段により選択された前記第1、第2および第3の分光画像をその分光波長が長いものから順に、前記R、G、Bの原色信号にそれぞれ割り当てることにより前記処理画像を生成する画像生成手段と The processed image is generated by assigning the first, second, and third spectral images selected by the image selection unit to the R, G, and B primary color signals in order from the longest spectral wavelength. Image generation means and
を備えたことを特徴とする分光画像処理装置。 A spectral image processing apparatus comprising:
前記複数の分光画像のそれぞれから前記原色信号の数と同数の特徴量を抽出する特徴量抽出手段と、
該特徴量抽出手段により抽出された前記特徴量毎に該前記特徴量を用いて前記複数の分光画像を評価し、該複数の分光画像のうち評価の高い前記分光画像を前記各特徴量毎に選択する画像選択手段と、
該画像選択手段により選択された複数の前記分光画像を複数の前記原色信号に割り当てることにより前記処理画像を生成する画像生成手段と
を備えたことを特徴とする分光画像処理装置。 In an image processing apparatus that generates a processed image composed of a plurality of primary color signals using a plurality of spectral images obtained by photographing a measurement object,
Feature quantity extraction means for extracting the same quantity of feature quantities as the number of primary color signals from each of the plurality of spectral images;
For each feature quantity extracted by the feature quantity extraction unit, the plurality of spectral images are evaluated using the feature quantity, and the spectral image having a high evaluation among the plurality of spectral images is evaluated for each feature quantity. An image selection means to select;
A spectral image processing apparatus comprising: an image generation unit configured to generate the processed image by allocating the plurality of spectral images selected by the image selection unit to the plurality of primary color signals.
前記複数の分光画像のそれぞれから3つの特徴量を抽出する特徴量抽出手段と、 Feature quantity extraction means for extracting three feature quantities from each of the plurality of spectral images;
該特徴量抽出手段により抽出された前記特徴量毎に該特徴量を用いて前記複数の分光画像を評価し、(a)該複数の分光画像の中から前記3つの特徴量のいずれかである第1の特徴量についての前記評価が最も高い分光画像を第1の分光画像として選択し、(b)前記複数の分光画像の中で、かつ、その分光波長が前記第1の分光画像の分光波長から30nm以上離れた分光画像の中から、前記3種類の特徴量のうち前記第1の特徴量を除いた2つの特徴量のいずれかである第2の特徴量についての前記評価が最も高い分光画像を第2の分光画像として選択し、(c)前記複数の分光画像の中で、かつ、その分光波長が前記第1および第2の分光画像の分光波長から30nm以上離れた分光画像の中から、前記3種類の特徴量のうち前記第1および第2の特徴量以外の特徴量である第3の特徴量についての前記評価が最も高い分光画像を第3の分光画像として選択する画像選択手段と、 For each feature quantity extracted by the feature quantity extraction unit, the plurality of spectral images are evaluated using the feature quantity, and (a) one of the three feature quantities from the plurality of spectral images. A spectral image having the highest evaluation regarding the first feature amount is selected as a first spectral image. (B) Among the plurality of spectral images, a spectral wavelength of the spectral image of the first spectral image is selected. The highest evaluation is made on the second feature value, which is one of the two feature values excluding the first feature value among the three types of feature values, in the spectral image separated by 30 nm or more from the wavelength. A spectral image is selected as a second spectral image; (c) a spectral image of the plurality of spectral images whose spectral wavelength is 30 nm or more away from the spectral wavelength of the first and second spectral images; Among the three types of feature quantities, the first An image selection means for selecting the evaluation highest spectral image for the third feature quantity is a pre-feature amount other than the second characteristic amount as a third spectral image,
該画像選択手段により選択された前記第1、第2および第3の分光画像をその分光波長が長いものから順に、前記R、G、Bの原色信号にそれぞれ割り当てることにより前記処理画像を生成する画像生成手段と The processed image is generated by assigning the first, second, and third spectral images selected by the image selection unit to the R, G, and B primary color signals in order from the longest spectral wavelength. Image generation means and
を備えたことを特徴とする分光画像処理装置。 A spectral image processing apparatus comprising:
前記複数の分光画像のそれぞれから特徴量を抽出する特徴量抽出手段と、 Feature amount extraction means for extracting a feature amount from each of the plurality of spectral images;
該特徴量抽出手段により抽出された前記特徴量を用いて前記複数の分光画像を評価し、(a)該複数の分光画像の中で、かつ、前記R、GおよびBのいずれかである第1の原色信号の波長帯域内の分光波長を有する分光画像の中から前記評価が最も高い分光画像を第1の分光画像として選択し、(b)前記複数の分光画像のうち、前記R、GおよびBのうち前記第1の原色信号を除いた2つの原色信号のいずれかである第2の原色信号の波長帯域内の分光波長を有する分光画像で、かつ、その分光波長が前記第1の分光画像の分光波長から30nm以上離れた分光画像の中から前記評価が最も高い分光画像を第2の分光画像として選択し、(c)前記複数の分光画像のうち、前記R、GおよびBのうち前記第1および第2の原色信号以外の原色信号である第3の原色信号の波長帯域内の分光波長を有する分光画像で、かつ、その分光波長が前記第1および第2の分光画像の分光波長から30nm以上離れた分光画像の中から前記評価が最も高い分光画像を第3の分光画像として選択する画像選択手段と、 The plurality of spectral images are evaluated using the feature amounts extracted by the feature amount extraction means, and (a) a first of the plurality of spectral images and any one of the R, G, and B A spectral image having the highest evaluation is selected as a first spectral image from spectral images having spectral wavelengths within a wavelength band of one primary color signal, and (b) among the plurality of spectral images, the R, G A spectral image having a spectral wavelength within the wavelength band of the second primary color signal, which is one of the two primary color signals excluding the first primary color signal, and the spectral wavelength is the first wavelength A spectral image having the highest evaluation is selected as a second spectral image from spectral images separated by 30 nm or more from the spectral wavelength of the spectral image, and (c) among the plurality of spectral images, the R, G, and B Of these, other than the first and second primary color signals A spectral image having a spectral wavelength within the wavelength band of the third primary color signal, which is a signal, and the spectral wavelength of which is 30 nm or more away from the spectral wavelength of the first and second spectral images. Image selection means for selecting the spectral image having the highest evaluation as the third spectral image;
該画像選択手段により選択された前記第1、第2および第3の分光画像を該分光画像の分光波長が属する波長帯域の原色信号にそれぞれ割り当てることにより前記処理画像を生成する画像生成手段と Image generating means for generating the processed image by assigning the first, second and third spectral images selected by the image selecting means to primary color signals in a wavelength band to which the spectral wavelength of the spectral image belongs, respectively;
を備えたことを特徴とする分光画像処理装置。 A spectral image processing apparatus comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006139955A JP5068036B2 (en) | 2006-05-19 | 2006-05-19 | Spectral image processing device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006139955A JP5068036B2 (en) | 2006-05-19 | 2006-05-19 | Spectral image processing device |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2007307202A JP2007307202A (en) | 2007-11-29 |
| JP2007307202A5 JP2007307202A5 (en) | 2009-04-02 |
| JP5068036B2 true JP5068036B2 (en) | 2012-11-07 |
Family
ID=38840603
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2006139955A Expired - Fee Related JP5068036B2 (en) | 2006-05-19 | 2006-05-19 | Spectral image processing device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5068036B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8462346B2 (en) * | 2009-02-20 | 2013-06-11 | Acuitas Medical Limited | Representation of spatial-frequency data as a map |
| JP5556484B2 (en) * | 2010-08-04 | 2014-07-23 | トヨタ自動車株式会社 | Spectrum measuring apparatus and spectrum measuring method |
| JP5538143B2 (en) * | 2010-08-31 | 2014-07-02 | 富士フイルム株式会社 | Endoscope system |
| JP2014014716A (en) * | 2013-10-17 | 2014-01-30 | Fujifilm Corp | Endoscopic apparatus |
| JP6746310B2 (en) * | 2015-05-22 | 2020-08-26 | キヤノン株式会社 | Image processing device, imaging system, and image processing method |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2887167B2 (en) * | 1987-10-20 | 1999-04-26 | オリンパス光学工業株式会社 | Imaging device |
| US5426684A (en) * | 1993-11-15 | 1995-06-20 | Eastman Kodak Company | Technique for finding the histogram region of interest for improved tone scale reproduction of digital radiographic images |
| JP3791714B2 (en) * | 1997-02-04 | 2006-06-28 | オリンパス株式会社 | Endoscope image processing device |
| JP4315489B2 (en) * | 1998-07-31 | 2009-08-19 | オリンパス株式会社 | Endoscope device |
| JP2004113390A (en) * | 2002-09-25 | 2004-04-15 | Olympus Corp | Optical probe apparatus |
| JP2004357910A (en) * | 2003-06-04 | 2004-12-24 | Olympus Corp | Observation apparatus for medical use |
| JP4716673B2 (en) * | 2004-05-21 | 2011-07-06 | オリンパス株式会社 | Fluorescence endoscope device |
-
2006
- 2006-05-19 JP JP2006139955A patent/JP5068036B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2007307202A (en) | 2007-11-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5541914B2 (en) | Image processing apparatus, electronic apparatus, program, and operation method of endoscope apparatus | |
| JP4599520B2 (en) | Multispectral image processing method | |
| JP5165732B2 (en) | Multispectral image processing method, image processing apparatus, and image processing system | |
| US8027533B2 (en) | Method of automated image color calibration | |
| JP6128888B2 (en) | Image processing apparatus, image processing method, and image processing program | |
| JP5885344B2 (en) | Method for characterizing skin or skin tone | |
| CN102201114B (en) | Image processing device and image processing method | |
| JP2021532891A5 (en) | ||
| US20090136101A1 (en) | Method and System for Analyzing Skin Conditions Using Digital Images | |
| JP5426475B2 (en) | Skin color unevenness analysis apparatus, skin color unevenness analysis method, and skin color unevenness analysis program | |
| JP2011218090A (en) | Image processor, endoscope system, and program | |
| JP4717103B2 (en) | Signal processing system and signal processing program | |
| CA2604684A1 (en) | Method of estimating a visual evaluation value of beauty of a skin | |
| JP4915737B2 (en) | Image analysis system and image analysis program | |
| CN111670000A (en) | Imaging apparatus and imaging method and program | |
| JP2007252891A (en) | Estimation method of evaluation value by visual recognition of beauty of skin | |
| CN117152362B (en) | Multi-path imaging method, device, equipment and storage medium for endoscope multi-spectrum | |
| JP2009082338A (en) | Skin discrimination method using entropy | |
| JP7087390B2 (en) | Diagnostic support device, image processing method and program | |
| JP5565765B2 (en) | Derivation method of melanoma discrimination index | |
| JP5068036B2 (en) | Spectral image processing device | |
| JP5789786B2 (en) | Image measuring apparatus and image measuring method | |
| JP5235473B2 (en) | Spectral characteristic estimation device | |
| JP2012213518A (en) | Image processing apparatus, image processing method, and image processing program | |
| JP3729692B2 (en) | Surface state analysis method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090217 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090217 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110712 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110714 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110902 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120501 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120702 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120724 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120814 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150824 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5068036 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |