Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6973638B2 - イメージングデータ処理装置 - Google Patents
[go: Go Back, main page]

JP6973638B2 - イメージングデータ処理装置 - Google Patents

イメージングデータ処理装置 Download PDF

Info

Publication number
JP6973638B2
JP6973638B2 JP2020522472A JP2020522472A JP6973638B2 JP 6973638 B2 JP6973638 B2 JP 6973638B2 JP 2020522472 A JP2020522472 A JP 2020522472A JP 2020522472 A JP2020522472 A JP 2020522472A JP 6973638 B2 JP6973638 B2 JP 6973638B2
Authority
JP
Japan
Prior art keywords
image
imaging data
sample
unit
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020522472A
Other languages
English (en)
Other versions
JPWO2019229897A1 (ja
Inventor
真一 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Publication of JPWO2019229897A1 publication Critical patent/JPWO2019229897A1/ja
Application granted granted Critical
Publication of JP6973638B2 publication Critical patent/JP6973638B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/18Image warping, e.g. rearranging pixels individually
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Immunology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Other Investigation Or Analysis Of Materials By Electrical Means (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Electrochemistry (AREA)

Description

本発明は、例えばイメージング質量分析装置といった、試料上の2次元領域内の微小領域毎に得られるデータを処理して特定の物質の2次元強度分布を示す画像などを表示するイメージングデータ処理装置に関する。
イメージング質量分析装置は、生体組織切片などの試料の表面の形態を光学顕微鏡によって観察しながら、同じ試料表面における特定の質量電荷比m/zを有するイオンの2次元的な強度分布を測定することが可能な装置である。イメージング質量分析装置を用いて例えば癌などの特定の疾病に特徴的に現れる化合物由来のイオンについての質量分析イメージング画像を観察することにより、その疾病の拡がり具合などを把握することが可能である。こうしたことから、近年、イメージング質量分析装置を利用し、生体組織切片等を対象とした薬物動態解析や各器官での化合物分布の相違、或いは、癌等の病理部位と正常部位との間での化合物分布の差異などを解析する研究が盛んに行われている。
非特許文献1に開示されているように、上記イメージング質量分析装置では、試料上の2次元的な測定領域における特定の質量電荷比を有する物質の2次元強度分布を示すヒートマップ状の画像(質量分析イメージング画像)を作成して表示することができる。また、イメージング質量分析装置に併設されている光学顕微鏡では試料の光学顕微画像が得られるから、この光学顕微画像と任意の質量電荷比における質量分析イメージング画像とを重ね合わせた画像を作成して表示することも可能である。こうした重ね合わせ画像では、生体組織の輪郭や模様等と特定の物質の2次元分布とが併せて表示されるため、生体組織のどの部分にどのような物質が偏在しているか等を観察するのに便利である。
また一般的な光学顕微観察では見えない生体組織中の特定の部位などを顕在化させるために染色した試料を光学顕微鏡で観察したり蛍光標識した試料を蛍光顕微鏡で観察したりした画像と、質量分析イメージング画像とを重ね合わせた画像を作成して表示することも行われている。例えば同じ生体組織切片である試料について質量分析イメージング画像と染色画像とを取得したい場合には、次のような手順で測定(撮影)を実施する。
まず、作業者は目的とする試料の表面にMALDI(マトリクス支援レーザ脱離イオン化)用のマトリクスを塗布し、イメージング質量分析装置により測定を実施して質量分析イメージングデータを収集する。次に、作業者は試料を装置から取り出し、所定の溶剤を用いて試料表面のマトリクスを除去する。そのあと、所定の染色試薬により該試料を染色し、光学顕微鏡により測定を実施して染色画像データを収集する。光学観察よりも質量分析を先に実施するのは、染色された試料は染色試薬の影響により正確な質量分析が行えないためである。
こうして収集された質量分析イメージングデータに基づく質量分析イメージング画像と、染色画像データに基づく染色画像である参照画像とを重ね合わせる場合、質量分析イメージング画像と参照画像とで試料上の同じ部位に対応する画像上での位置が異なるのが一般的である。これは、試料を装置にセットする際の位置のずれのほか、試料表面のマトリクスを除去する際に使用される溶剤により試料の一部の組織等が変形してしまうためである。そのため、多くの場合、参照画像と質量分析イメージング画像とをそのまま重ね合わせることはできず、少なくとも一方の画像について移動、回転、変形(伸縮)、トリミングなどの画像処理を行ったうえで、重ね合わせを行う必要がある(特許文献1〜3等参照)。
上記のような画像の位置合わせを自動的に行う試みもなされているものの、生体組織中の或る部位に対応する画像の位置が合っているか否かを機械的に判断するのはかなり難しいため、作業者がマニュアル操作で画像の位置合わせを行っているのが現状である。こうしたマニュアル操作による画像位置合わせ処理の際には、例えば作業者が所定の操作を行うと、グリッド線を参照画像に重畳して表示させる。このグリッド線の交点が作業者が移動を指示できる点であり、作業者は任意の交点をマウス等のポインティングデバイスで選択して能動化した上で、画像上で所望の位置まで移動させる。すると、その移動前の交点の位置をほぼ中心とする所定の範囲の画像が非線形に変形される。
一般的に、グリッド線の交点を選択して移動させる場合、画像が変形する範囲は選択された交点を囲んで最も近接する複数の交点を結ぶ範囲内である。一般に、1枚の画像の中の領域によって変形させたい量と範囲とは異なることが多いが、このような場合に様々な部分の画像位置が合うように画像変形を行うには、変形させたい範囲に合わせて作業者がグリッド線の間隔を様々に変えながら試行錯誤的に作業を進める必要があった。そのため、画像位置を適切に合わせるのに時間が掛かり、作業効率が悪かった。また、こうした作業は作業者にとっても身体的及び精神的に大きな負担であった。
なお、こうした課題は染色画像や蛍光画像、或いは一般的な光学顕微画像と質量分析イメージング画像とを重ね合わせる際に限るものではなく、異なる測定手法で得られるイメージング画像同士を重ね合わせる際に少なからず生じる課題である。ここでいう測定手法とは、具体的には例えば、赤外イメージング法、レーザーラマン分光イメージング法、X線、イオン線、電子線などを用いた表面分析法、などである。
特開2009−25275号公報 国際公開第2017/002226号 特開2013−257282号公報
「iMScope TRIO イメージング質量顕微鏡 光学画像・MSイメージング質量分析の重ね合わせ」、[online]、[平成30年3月20日検索]、株式会社島津製作所、インターネット<URL : https://www.an.shimadzu.co.jp/bio/imscope/overlay.htm> 水田 忍、「マルチモダリティ医用三次元画像の自動位置合わせ手法に関する研究」、[online]、[平成30年3月20日検索]、京都大学、インターネット<URL: https://repository.kulib.kyoto-u.ac.jp/dspace/bitstream/2433/157072/2/D_Mizuta_Shinobu.pdf>
本発明は上記課題を解決するために成されたものであり、その目的とするところ、光学顕微画像や質量分析イメージング画像などを重ね合わせるために一方の画像を変形させる際に、画像を変形させるための作業者の操作を円滑化して操作性を向上させることができるイメージングデータ処理装置を提供することである。
上記課題を解決するために成された本発明の第1の態様は、ユーザインターフェイスである入力部及び表示部を有し、試料上の2次元領域内の複数の微小領域に対しそれぞれ第1の測定手法による測定を実行して得られる第1のイメージングデータと、該試料上の前記2次元領域の少なくとも一部を含む範囲について前記第1の測定手法とは異なる第2の測定手法による測定を実行して得られた第2のイメージングデータと、を処理するイメージングデータ処理装置であって、
a)試料上の略同一の範囲について前記第1のイメージングデータに基づいて作成される第1の画像と前記第2のイメージングデータに基づいて作成される第2の画像とを表示部の画面内に重ねて表示するとともに、その重ねて表示される重ね合わせ画像上に、所定間隔のグリッド点を重畳して表示する画像表示処理部と、
b)前記画像表示処理部により前記グリッド点が重畳して表示されている画像上で、入力部を介した操作により画像変形範囲をユーザに指定させる変形範囲指定受付部と、
c)入力部を介したユーザの、前記画像表示処理部により画像上に重畳して表示されているグリッド点の中で前記変形範囲指定受付部により指定された画像変形範囲に含まれるグリッド点の選択、及び画像上での該選択されたグリッド点の移動操作を受けて、重ねて表示されている二つの画像の一方における前記画像変形指示範囲内の画像を、前記選択及び移動操作に応じて変形させる画像変形処理部と、
を備えることを特徴としている。
本発明において、第1及び第2の測定手法とは、質量分析イメージング法、ラマン分光イメージング法、蛍光イメージング法、赤外分光イメージング法、X線分析イメージング法、電子線やイオン線などの粒子線を用いた表面分析イメージング法、走査型プローブ顕微鏡(SPM)などの探針を用いた表面分析イメージング法、光学顕微鏡などの一般的な顕微鏡による顕微観察法などのいずれかとすることができる。
本発明の第1の態様において、画像表示処理部は、第1及び第2のイメージングデータを取得すると、第1のイメージングデータに基づいて第1の画像を作成するとともに、第2のイメージングデータに基づいて第2の画像を作成する。そして、同じ試料の略同一の領域についてのその二つの画像を重ねて表示部の画面内に表示する。また、その重ね合わせ画像の上に、所定間隔のグリッド点を重畳して表示する。ここでのグリッド点は、格子状の線(グリッド線)の交点でもよいし、単に格子状に且つ離散的に配置された複数の点でもよい。各グリッド点を繋ぐグリッド線は表示されている必要は無いが、画像上の各部位の相対位置が把握し易いようにグリッド線の全体又はその一部が表示されるようにしてもよい。なお、二つの画像が重ねられた重ね合わせ画像上にグリッド点を表示する場合、変形対象の画像をユーザが選択できるようにしておくとよい。さらにまた、重畳して表示するグリッド点の間隔はユーザが指定又は調整できるようにしておくとよい。
変形範囲指定受付部は、グリッド点が重畳して表示されている画像上で、ユーザによる入力部の操作を受けて画像変形範囲を決定する。典型的には入力部はマウス等のポインティングデバイスであり、画像上で指定された任意の大きさ、形状の領域を画像変形範囲とすればよい。画像変形処理部は上記画像変形範囲を画像変形処理対象として認識する。そして、ユーザが入力部により、画像上のグリッド点の中で上記画像変形範囲に含まれるグリッド点のいずれかを選択したうえで該選択したグリッド点を任意の位置まで移動させる操作を行うと、この操作に応じて、変形処理対象の画像上における移動前のグリッド点の位置に対応する微小画像を移動後のグリッド点の位置まで移動させ、その移動前のグリッド点を含む画像変形範囲内の各グリッド点の位置に対応する微小画像をそれぞれ所定のアルゴリズムに従って移動させることで該画像変形範囲内の画像全体を変形させる。
ユーザの操作による、上述したような画像変形処理を一又は複数回実施することで、位置合わせ済みの重ね合わせ画像が表示部の画面上に表示される。一回のグリッド点の移動操作に応じて変形される範囲を任意に指定することができるので、1枚の画像の中での変形させたい範囲と量とに応じて画像変形範囲を適宜調整することで、従来よりも少ない操作回数で正確な画像位置合わせが可能となる。
また上記課題を解決するために成された本発明の第2の態様は、ユーザインターフェイスである入力部及び表示部を有し、試料上の2次元領域内の複数の微小領域に対しそれぞれ第1の測定手法による測定を実行して得られる第1のイメージングデータと、該試料上の前記2次元領域の少なくとも一部を含む範囲について前記第1の測定手法とは異なる第2の測定手法による測定を実行して得られた第2のイメージングデータと、を処理するイメージングデータ処理装置であって、
a)試料上の略同一の範囲について前記第1のイメージングデータに基づいて作成される第1の画像と前記第2のイメージングデータに基づいて作成される第2の画像とを表示部の画面内に重ねて表示するとともに、その重ねて表示される重ね合わせ画像上にグリッド点を重畳して表示する画像表示処理部と、
b)画像上の異なる領域毎にそれぞれ前記グリッド点の間隔をユーザに指定させるグリッド点間隔指定受付部と、
c)前記グリッド点間隔指定受付部により指定された間隔を有して前記画像表示処理部により画像に重畳して表示されたグリッド点の選択、及び画像上での該選択されたグリッド点の移動操作を受けて、重ねて表示されている二つの画像の一方における所定範囲の画像を、前記選択及び移動操作に応じて変形させる画像変形処理部と、
を備えることを特徴としている。
本発明の第2の態様では、ユーザの入力部の操作を受けて、グリッド点間隔指定受付部は例えばグリッド点が重畳して表示される画像の全面を複数の領域に区切り、その領域毎にそれぞれ異なる(又は同じ)グリッド点間隔を設定する。即ち、異なるグリッド点間隔であるグリッド点の混在を可能とする。具体的には例えば、まず大きな第1のグリッド点間隔のグリッド点を画像全面に表示したあと、一直線上に位置していない3以上のグリッド点で囲まれる1又は複数の所定形状の範囲内に、上記第1のグリッド点間隔に比べて小さな第2のグリッド間隔のグリッド点を設けるとよい。
画像変形処理部は、従来の均一の間隔のグリッド点と同様に、領域によって異なる間隔の多数のグリッド点のうちの任意のグリッド点の選択及び画像上での該選択されたグリッド点の移動操作を受け付け、その操作に応じて画像を変形させる。グリッド点間隔の狭い領域では一つの交点の操作に応じて変形される画像の範囲を狭くし、グリッド点間隔の広い領域では一つのグリッド点に対する操作に応じて変形される画像の範囲を広くするとよい。これにより、1枚の画像の中での変形させたい範囲と量とに応じてグリッド点間隔とその間隔を有するグリッド点を設ける範囲とを適宜調整することで、従来よりも少ない操作回数で正確な位置合わせが可能となる。
なお、上述したように本発明において第1及び第2の測定手法として様々な測定手法を採り得るが、本発明は、単純な移動や回転、伸縮では十分に正確な位置合わせが難しいような場合に特に有効である。そうしたことから、本発明において、第1の測定手法はマトリクス支援レーザ脱離イオン化法を用いた質量分析イメージング法であり、前記第2の測定手法は、試料を染色又は蛍光標識したうえで顕微観察する手法であるものとすることができる。
本発明によれば、例えば同じ試料についての染色画像や蛍光顕微画像と質量分析イメージング画像とを精度良く重ね合わせるために一方の画像を変形させる際に、画像を変形させるための作業者の操作を円滑化して操作性を向上させることができる。それによって、画像位置合わせ作業の効率を改善するとともに、作業者の身体的及び精神的な負担を軽減することができる。
本発明に係るイメージングデータ処理装置を含むイメージング質量分析装置の一実施例の概略構成図。 本実施例のイメージング質量分析装置における画像重ね合わせ作業の手順を示すフローチャート。 本実施例のイメージング質量分析装置における画像重ね合わせ作業の際の表示画面の一例を示す図。 本実施例のイメージング質量分析装置における画像変形処理の説明図。 他の実施例のイメージング質量分析装置における画像変形処理の説明図。
以下、本発明に係るイメージングデータ処理装置を含むイメージング質量分析装置の一実施例について、添付図面を参照して説明する。
図1は本実施例によるイメージング質量分析装置の概略構成図である。
本実施例のイメージング質量分析装置は、試料に対して質量分析イメージング法による測定を実施するイメージング質量分析部1と、試料上の光学顕微画像を撮影する光学顕微撮像部2と、データ処理部3と、ユーザインターフェイスである入力部4及び表示部5と、を含む。
イメージング質量分析部1は例えばMALDIイオントラップ飛行時間型質量分析装置を含み、生体組織切片などの試料上の2次元的な測定領域内の多数の微小領域(測定点)に対してそれぞれ質量分析を実行して測定点毎に質量分析データを取得するものである。
光学顕微撮像部2は光学顕微鏡に撮像部を付加したものであり、試料上の表面の2次元領域の顕微画像を取得するものである。ここでは、この光学顕微撮像部2を、質量分析イメージング法による測定を行う際の測定領域を決めるための光学顕微画像を取得するため、及び、染色した試料についての染色画像を撮影するために用いる。
データ処理部3は、イメージング質量分析部1で収集された各微小領域におけるマススペクトルデータ及び光学顕微撮像部2から入力される光学顕微画像データを受けて所定の処理を行うものであり、データ収集部31、データ格納部32、イメージング画像作成部33、光学画像作成部34、画像重ね合わせ処理部35など、を機能ブロックとして備える。データ格納部32は、イメージング質量分析部1による測定で収集されたデータを格納するスペクトルデータ格納領域321と光学顕微撮像部2による測定(撮影)で収集されたデータを格納する光学画像データ格納領域322とを含む。また、画像重ね合わせ処理部35は、下位の機能ブロックとして、画像表示処理部351、画像変形範囲指定受付部352、グリッド間隔調整受付部353、画像変形処理部354などの機能ブロックを含む。
なお、通常、データ処理部3の実体はパーソナルコンピュータ(又はより高性能なワークステーション)であり、該コンピュータにインストールされた専用のソフトウェアを該コンピュータ上で動作させることにより、上記各ブロックの機能が達成される構成となっている。その場合、入力部4はキーボードやマウス等のポインティングデバイスであり、表示部5はディスプレイモニタである。
次に、本実施例のイメージング質量分析装置による試料の測定作業について説明する。
まず作業者が目的試料を光学顕微撮像部2の所定の測定位置にセットし、入力部4で所定の操作を行うと、光学顕微撮像部2は該試料の表面を撮影し、その画像を表示部5の画面上に表示する。作業者(ユーザ)はその画像上でその試料全体又は試料の一部である測定領域を入力部4で指示する。作業者は試料を一旦取り出し、その表面にMALDI用のマトリクスを付着させる。そして、マトリクスが付着された試料をイメージング質量分析部1の所定の測定位置にセットし、入力部4で所定の操作を行う。これにより、イメージング質量分析部1は、試料上の、上述したように指示された測定領域内の多数の微小領域についてそれぞれ質量分析を実行し、所定の質量電荷比範囲に亘る質量分析データを取得する。このときデータ収集部31は、いわゆるプロファイルアクイジションを実行し、質量電荷比範囲内で質量電荷比方向に連続的な波形であるプロファイルスペクトルデータを収集してデータ格納部32のスペクトルデータ格納領域321に保存する。
なお、マトリクスを試料表面に付着させても該試料表面の模様(異なる組織の境界等)が比較的鮮明に観察できる場合には、先に試料の表面にマトリクスを付着させたあとに光学顕微撮像部2で撮影を実施してもよい。
質量分析イメージング法による測定後に作業者は試料を取り出し、溶剤を用いて試料表面に付着しているマトリクスを除去する。そのあと、所定の染色試薬により試料を染色し、染色された試料を光学顕微撮像部2の所定の測定位置に再びセットする。そして、作業者が入力部4で所定の操作を行うと、光学顕微撮像部2は該試料の表面を撮影し、データ収集部31はそれにより得られた染色画像データをデータ格納部32の光学画像データ格納領域322に保存する。こうして、同一試料についての質量分析イメージングデータと染色画像データとがデータ格納部32に保存される。
次に、上述したデータが保存されている状態で実施される画像重ね合わせ作業及びその際の画像変形処理について、図2〜図4を参照して説明する。図2は画像重ね合わせ作業の手順を示すフローチャート、図3は画像重ね合わせ作業の際の表示画面の一例を示す図、図4は画像変形処理の説明図である。
作業者が入力部4で所定の操作を行うと、光学画像作成部34はデータ格納部32の光学画像データ格納領域322から染色画像データを読み出し、該データに基づいて試料についての染色画像を作成する(ステップS1)。また、作業者が2次元分布を確認したい化合物を入力部4で指定すると、イメージング画像作成部33はデータ格納部32のスペクトルデータ格納領域321から指定された化合物に対応する質量電荷比Mにおける信号強度値データを読み出し、該データに基づいて試料についての質量電荷比Mにおける質量分析イメージング画像を作成する(ステップS2)。
また画像表示処理部351は、図3に示すような画像重ね合わせ作業画面60を表示部5の画面上に表示する(ステップS3)。画像重ね合わせ作業画面60には、同じ試料についての染色画像と質量分析イメージング画像とを重ね合わせた重ね合わせ画像が配置される画像表示領域61が設けられている。このときに画像表示領域61に表示される重ね合わせ画像は単に2枚の画像の一方を半透明化して重ね合わせたものであり、画像の位置合わせは全くなされていない。本実施例の装置では、アフィン変換等の線形画像変形による画像位置合わせも可能であるが、ここでは、非線形画像変形を行うものとする。また、ここでは2枚の画像のうちの染色画像のほうを変形させるものとするが、画像変形の対象である画像を作業者が選択できるようにしてもよい。
作業者が入力部4で所定の操作を行うことにより非線形画像変形を実施する旨を指示すると、画像表示処理部351は画像表示領域61に表示されている重ね合わせ画像の全面に図3中に示しているようなグリッド線62を表示する(ステップS4)。ここでは、縦と横のグリッド線62の交点62aが本発明におけるグリッド点である。ただし、グリッド線の代わりに十字形状でグリッド点を示したり、単なるドットのみでグリッド点を示したりしてもよい。また、表示するグリッド線62を点線などの単純な実線とは異なる態様としたり、その色を作業者が適宜変更できるようにしたりしてもよい。
画像重ね合わせ作業画面60内にはグリッド間隔調整スライダー63が配置されており、作業者が入力部4により該スライダー63のノブを移動させる操作を行うと、グリッド間隔調整受付部353はその操作に応じて、画像表示領域61内の重ね合わせ画像上に表示させているグリッド線62の間隔を調整する(ステップS5)。また作業者が、入力部4により画像変形範囲「設定」ボタン64を押下すると、画像変形範囲指定受付部352が能動化され、ポインティングデバイスで重ね合わせ画像上の所望の範囲を画像変形範囲として指定することが可能となる。ここでは、指定可能な画像変形範囲の形状は矩形状であり、その大きさは任意である。この範囲はグリッド線62とは無関係に設定可能である。
図4(b)は画像表示領域61内に画像変形範囲を指定した例である。実際には重ね合わせ画像が表示されるが、ここでは省略している。ここでは、グリッド線62に沿った隣接する4つの交点(グリッド点)62aで囲まれる矩形状のブロックを多数(又は一つ)内包するように画像変形範囲を指定することが可能である。また、複数の画像変形範囲を一度に指定することもできる。そうして画像変形範囲が決まったならば、作業者が入力部4により画像変形範囲「決定」ボタン65を押下すると、画像変形範囲指定受付部352はその時点で画像上に設定されている画像変形範囲を確定させる。なお、ここでは画像変形範囲は矩形状であるが、例えばポインティングデバイスによりカーソルを移動させてその軌跡で囲まれる範囲を画像変形範囲とする等により、画像変形範囲を任意形状とすることができるようにしてもよい。
次に、作業者は画像表示領域61内の画像上のグリッド線62の交点62aの一つ、つまり一つのグリッド点をポインティングデバイスのクリック操作によりコントロールポイントとして選択したうえで、該コントロールポイントを任意の方向及び任意の位置までドラッグ&ドロップする操作を行う(ステップS7)。画像変形処理部354はこの操作を受け、そのコントロールポイントが画像変形範囲内にある場合には、その画像変形範囲内の染色画像を所定のアルゴリズムに従って非線形に変形する。一方、選択されたコントロールポイントが画像変形範囲外にある場合には、図4(a)に示すように、そのコントロールポイントを囲む四つの矩形状のブロックを画像変形範囲として、その画像変形範囲内の染色画像を所定のアルゴリズムに従って非線形に変形する(ステップS8)。即ち、後者の場合には、従来の装置と同様に、画像変形範囲がグリッド線の間隔に応じて自動的に決められるのに対し、前者の場合には、画像変形範囲を作業者が任意に決めることができる。
そして、作業者は変形後の染色画像と質量分析イメージング画像との位置が合っているか否かを表示されている画像上で確認し(ステップS9)、さらに画像変形が必要である場合には、ステップS9からS5へと戻る。そして、ステップS5〜S9を繰り返すことで、染色画像と質量分析イメージング画像との位置合わせの精度を段階的に高めてゆき、許容できる程度のずれになったと作業者が判断したならばステップS9からS10へと進み、作業者は入力部4で「保存」ボタン66を押下する。これにより、画像表示処理部351はその時点での重ね合わせ画像を構成するデータをデータ格納部32に保存する。
上述した画像変形のアルゴリズム自体は例えば非特許文献2などの様々な文献に開示されている周知の方法を用いればよく、図4(a)と図4(b)とでは画像変形範囲が異なるだけである。図4(a)の場合、画像変形範囲がグリッド線間隔で以て制約されるので、画像を大きく変形させたい場合にはグリッド線間隔を広げる必要がある。そうすると、コントロールポイントを細かく設定することができない。一方、コントロールポイントを細かく設定するにはグリッド線間隔を狭くする必要があり、そうすると、画像が変形される範囲がかなり限られる。
これに対し、図4(b)の場合、グリッド線間隔と画像変形範囲とが関連しないので、コントロールポイントを細かく設定できるようにグリッド線間隔を狭くしながら、画像変形範囲を広くして画像上の広い範囲を一度に変形させるようにすることができる。また、画像上でコンロールポイントから比較的近い位置に変形させたくない部分が存在する場合に、該部分を除外するように画像変形範囲を設定することもできる。これによって、重ね合わせられている二つの画像上で試料上の同じ部位が同じ位置になるように、効率良く画像位置合わせを行うことができる。
なお、上記実施例では、画像上にコントロールポイントを設定するためのグリッド線の間隔とは無関係に画像変形範囲を設定できるようにしていたが、図3に示したように、重ね合わせ画像上に表示されるグリッド線の間隔自体は一定である。これに対し、次に説明する実施例のように、重ね合わせ画像上に表示されるグリッド線の間隔を一種類ではなく、複数種類のグリッド線間隔の混在を可能とするようにしても上記実施例と類似した効果が得られる。
図5は、本発明の他の実施例によるイメージング質量分析装置における画像変形処理の説明図である。
図5は図4と同様に、画像表示領域61内に表示される重ね合わせ画像(図示せず)上に表示されるグリッド線62を示す図である。この実施例のイメージング質量分析装置では、まず図5(a)に示すように、作業者は、比較的粗いグリッド線間隔であるグリッド線62を設定したあと、そのグリッド線62により形成される1又は複数の矩形状(又は複数の交点62aを結んだ任意の2次元形状)のブロックを密グリッド点範囲として指定する。そのうえで、作業者は、その密グリッド点範囲内における密のグリッド線間隔をさらに設定する。
上記実施例と同様に、縦、横のグリッド線62の交点62aがグリッド点であるから、グリッド線間隔を設定することはグリッド点間隔を設定することと実質的に同じである。即ち、本実施例では、粗密の2段階のグリッド点間隔の設定が可能となっている。これにより、図5(b)に示すような、2種類のグリッド線間隔のグリッド線が混在した状態で画像表示領域61内に表示される。作業者はこのグリッド線62における任意の交点62aつまりグリッド点をコントロールポイントとして選択したうえで、そのコントロールポイントを任意の方向、及び、任意の位置にドラッグ&ドロップする操作を行う。
ここでは、画像変形範囲は図4(a)に示したように、隣接する4ブロックの範囲である。そのため、グリッド線間隔が広い領域では画像変形範囲も広く、グリッド線間隔が狭い領域では画像変形範囲も狭くなる。したがって、画像上において変形させたい量と範囲とに応じて、粗密のグリッド点範囲とその各範囲におけるグリッド線間隔とを適宜に定めることで、従来装置に比べて画像位置合わせの作業効率を改善することができる。
なお、上記実施例のイメージング質量分析装置では、染色画像等の光学顕微画像と質量分析イメージング画像との重ね合わせにおいて上述したような特徴的な画像変形処理を実施していたが、同じ試料についての質量分析イメージング画像と、他の測定によって得られるイメージング画像、例えばラマン分光イメージング法、赤外分光イメージング法、X線分析イメージング法、電子線やイオン線などの粒子線を用いた表面分析イメージング法、或いは、走査型プローブ顕微鏡(SPM)などの探針を用いた表面分析イメージング法などにより得られたイメージング画像などと、を重ね合わせる際にも、本発明を適用可能であることは明らかである。また、イメージング質量分析装置に限らず、上述したような各種の測定手法を複数用いて同じ試料について得られた異なるイメージング画像を重ね合わせる際にも本発明は有効である。
なお、ここで「同じ試料」とは必ずしも全く同一の試料であるとは限らない。例えば生体組織をごく薄くスライスすることで形成した連続切片試料において隣接する切片試料であれば、異なる試料でも実質的に同じ試料として扱えることがある。こうした場合には、同じ試料であるとみなせる互いに異なる試料についてそれぞれ得られたイメージング画像を重ね合わせる際に本発明を適用することは十分に有用である。
さらにまた、上記実施例はあくまでも本発明の一例であり、上記記載の各種の変形例のほか、本発明の趣旨の範囲で適宜に変更、修正、追加を行っても本願特許請求の範囲に包含されることは当然である。
1…イメージング質量分析部
2…光学顕微撮像部
3…データ処理部
31…データ収集部
32…データ格納部
321…スペクトルデータ格納領域
322…光学画像データ格納領域
33…イメージング画像作成部
34…光学画像作成部
35…画像重ね合わせ処理部
351…画像表示処理部
352…画像変形範囲指定受付部
353…グリッド間隔調整受付部
354…画像変形処理部
4…入力部
5…表示部
60…画像重ね合わせ作業画面
61…画像表示領域
62…グリッド
63…グリッド間隔調整スライダー
64…画像変形範囲「設定」ボタン
65…画像変形範囲「決定」ボタン
66…「保存」ボタン

Claims (3)

  1. ユーザインターフェイスである入力部及び表示部を有し、試料上の2次元領域内の複数の微小領域に対しそれぞれ第1の測定手法による測定を実行して得られる第1のイメージングデータと、該試料上の前記2次元領域の少なくとも一部を含む範囲について前記第1の測定手法とは異なる第2の測定手法による測定を実行して得られた第2のイメージングデータと、を処理するイメージングデータ処理装置であって、
    a)試料上の略同一の範囲について前記第1のイメージングデータに基づいて作成される第1の画像と前記第2のイメージングデータに基づいて作成される第2の画像とを表示部の画面内に重ねて表示するとともに、その重ねて表示される重ね合わせ画像上に、所定間隔のグリッド点を重畳して表示する画像表示処理部と、
    b)前記画像表示処理部により前記グリッド点が重畳して表示されている画像上で、入力部を介した操作により画像変形範囲をユーザに指定させる変形範囲指定受付部と、
    c)入力部を介したユーザの、前記画像表示処理部により画像上に重畳して表示されているグリッド点の中で前記変形範囲指定受付部により指定された画像変形範囲に含まれるグリッド点の選択、及び画像上での該選択されたグリッド点の移動操作を受けて、重ねて表示されている二つの画像の一方における前記画像変形指示範囲内の画像を、前記選択及び移動操作に応じて変形させる画像変形処理部と、
    を備えることを特徴とするイメージングデータ処理装置。
  2. ユーザインターフェイスである入力部及び表示部を有し、試料上の2次元領域内の複数の微小領域に対しそれぞれ第1の測定手法による測定を実行して得られる第1のイメージングデータと、該試料上の前記2次元領域の少なくとも一部を含む範囲について前記第1の測定手法とは異なる第2の測定手法による測定を実行して得られた第2のイメージングデータと、を処理するイメージングデータ処理装置であって、
    a)試料上の略同一の範囲について前記第1のイメージングデータに基づいて作成される第1の画像と前記第2のイメージングデータに基づいて作成される第2の画像とを表示部の画面内に重ねて表示するとともに、その重ねて表示される重ね合わせ画像上にグリッド点を重畳して表示する画像表示処理部と、
    b)画像上の異なる領域毎にそれぞれ前記グリッド点の間隔をユーザに指定させるグリッド点間隔指定受付部と、
    c)前記グリッド点間隔指定受付部により指定された間隔を有して前記画像表示処理部により画像に重畳して表示されたグリッド点の選択、及び画像上での該選択されたグリッド点の移動操作を受けて、重ねて表示されている二つの画像の一方における所定範囲の画像を、前記選択及び移動操作に応じて変形させる画像変形処理部と、
    を備えることを特徴とするイメージングデータ処理装置。
  3. 請求項1又は2に記載のイメージングデータ処理装置であって、
    前記第1の測定手法はマトリクス支援レーザ脱離イオン化法を用いた質量分析イメージング法であり、前記第2の測定手法は、試料を染色又は蛍光標識したうえで顕微観察する手法であることを特徴とするイメージングデータ処理装置。
JP2020522472A 2018-05-30 2018-05-30 イメージングデータ処理装置 Active JP6973638B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/020832 WO2019229897A1 (ja) 2018-05-30 2018-05-30 イメージングデータ処理装置

Publications (2)

Publication Number Publication Date
JPWO2019229897A1 JPWO2019229897A1 (ja) 2021-03-11
JP6973638B2 true JP6973638B2 (ja) 2021-12-01

Family

ID=68697906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020522472A Active JP6973638B2 (ja) 2018-05-30 2018-05-30 イメージングデータ処理装置

Country Status (3)

Country Link
US (1) US11861826B2 (ja)
JP (1) JP6973638B2 (ja)
WO (1) WO2019229897A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7375640B2 (ja) 2020-03-23 2023-11-08 株式会社島津製作所 イメージング質量分析システム、及び、イメージング質量分析を利用した分析方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2753820B1 (fr) * 1996-09-26 1998-10-23 Procede de recherche d'echantillons dans des images d'une base de donnees
US7224827B2 (en) 2002-09-27 2007-05-29 The Board Of Trustees Of The Leland Stanford Junior University Method for matching and registering medical image data
JP4863692B2 (ja) * 2005-11-02 2012-01-25 株式会社島津製作所 イメージ質量分析装置
WO2008126151A1 (ja) * 2007-04-04 2008-10-23 Shimadzu Corporation 質量分析データ解析方法及び装置
JP4973360B2 (ja) * 2007-07-24 2012-07-11 株式会社島津製作所 質量分析装置
WO2010001439A1 (ja) * 2008-07-03 2010-01-07 株式会社島津製作所 質量分析装置
US10012572B2 (en) * 2011-04-28 2018-07-03 Japanese Foundation for Cancer Research, Keio University, National University Corporation Hamamatsu, and Shimadzu Co. Mass-analysis data processing method and system
JP5708400B2 (ja) * 2011-09-26 2015-04-30 株式会社島津製作所 イメージング質量分析装置及び質量分析データ処理方法
JP2013257282A (ja) 2012-06-14 2013-12-26 Canon Inc 画像処理方法および装置
JP6004956B2 (ja) * 2013-01-29 2016-10-12 株式会社日立ハイテクノロジーズ パターン評価装置、及び、パターン評価装置を備えた外観検査装置
JP5971184B2 (ja) * 2013-04-22 2016-08-17 株式会社島津製作所 イメージング質量分析データ処理方法及びイメージング質量分析装置
JP2015025758A (ja) * 2013-07-26 2015-02-05 Hoya株式会社 基板検査方法、基板製造方法および基板検査装置
US10094767B2 (en) * 2014-09-19 2018-10-09 Konica Minolta, Inc. Image processor, image processing method, and program
US10584366B2 (en) * 2014-12-03 2020-03-10 IsoPlexis Corporation Analysis and screening of cell secretion profiles
CN107850567A (zh) 2015-07-01 2018-03-27 株式会社岛津制作所 数据处理装置

Also Published As

Publication number Publication date
WO2019229897A1 (ja) 2019-12-05
US11861826B2 (en) 2024-01-02
US20210302369A1 (en) 2021-09-30
JPWO2019229897A1 (ja) 2021-03-11

Similar Documents

Publication Publication Date Title
JP6927416B2 (ja) イメージングデータ処理装置及びイメージングデータ処理プログラム
JP7191901B2 (ja) 試料分析装置及び方法
JP3980856B2 (ja) 電子顕微鏡における分析方法
JP7004073B2 (ja) イメージングデータ処理装置
JP6973638B2 (ja) イメージングデータ処理装置
JP6927415B2 (ja) イメージング質量分析におけるデータ処理方法及びデータ処理プログラム
WO2019150575A1 (ja) イメージング質量分析データ解析装置
WO2020105102A1 (ja) イメージングデータ解析装置
JP6973640B2 (ja) イメージング質量分析データ処理装置
JP7040537B2 (ja) イメージング質量分析装置
JP7001157B2 (ja) イメージング質量分析データ処理装置
WO2021075254A1 (ja) イメージング質量分析装置
JP6973639B2 (ja) イメージング質量分析データ処理装置
WO2021049011A1 (ja) 分析装置
JP7650130B2 (ja) 表示システム、分析装置、制御方法、および制御プログラム
CN114556523B (zh) 成像分析装置以及成像数据解析方法
JP2021009840A (ja) 電子顕微鏡を用いる生命科学試料の連続微細切片からナノメートル解像度3d画像データを記録するための自動ロバスト法
WO2022003890A1 (ja) イメージング質量分析装置及びイメージング質量分析データ処理方法
JP7394535B2 (ja) 粒子線分析装置
JPH06119900A (ja) 鋼材の介在物分析装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200911

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211018

R151 Written notification of patent or utility model registration

Ref document number: 6973638

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151