Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7545466B2 - プログラム、情報処理方法、情報処理装置及びモデル生成方法 - Google Patents
[go: Go Back, main page]

JP7545466B2 - プログラム、情報処理方法、情報処理装置及びモデル生成方法 - Google Patents

プログラム、情報処理方法、情報処理装置及びモデル生成方法 Download PDF

Info

Publication number
JP7545466B2
JP7545466B2 JP2022509535A JP2022509535A JP7545466B2 JP 7545466 B2 JP7545466 B2 JP 7545466B2 JP 2022509535 A JP2022509535 A JP 2022509535A JP 2022509535 A JP2022509535 A JP 2022509535A JP 7545466 B2 JP7545466 B2 JP 7545466B2
Authority
JP
Japan
Prior art keywords
image
frequency
model
generating
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022509535A
Other languages
English (en)
Other versions
JPWO2021193020A1 (ja
Inventor
陽 井口
悠介 関
雄紀 坂口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Terumo Corp
Original Assignee
Terumo Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Terumo Corp filed Critical Terumo Corp
Publication of JPWO2021193020A1 publication Critical patent/JPWO2021193020A1/ja
Application granted granted Critical
Publication of JP7545466B2 publication Critical patent/JP7545466B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Clinical applications
    • A61B8/0891Clinical applications for diagnosis of blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/52Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
    • G01S7/52017Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 particularly adapted to short-range imaging
    • G01S7/52046Techniques for image enhancement involving transmitter or receiver
    • G01S7/52047Techniques for image enhancement involving transmitter or receiver for elimination of side lobes or of grating lobes; for increasing resolving power
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Vascular Medicine (AREA)
  • Quality & Reliability (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、プログラム、情報処理方法、情報処理装置及びモデル生成方法に関する。
超音波を利用して人体内部の超音波画像を生成する画像診断技術がある。例えば特許文献1では、超音波の周波数、フレームレートなどのパラメータの適用値に従って超音波画像を取得する超音波診断装置であって、取得した超音波画像の関心領域の特徴量を抽出して機械学習モデルに入力し、関心領域内の画像情報を最適化するためのパラメータの最適値を予測して、予測した最適値を適用値に設定する超音波診断装置等が開示されている。
特開2019-209130号公報
しかしながら、特許文献1では超音波検査に適用すべき最適なパラメータを予測するのみで、取得済みの超音波画像を所望の周波数の画像に変換することはできない。
一つの側面では、超音波画像診断を好適に支援することができるプログラム等を提供することを目的とする。
一つの側面に係るプログラムは、第1周波数の超音波信号に基づき患者の管腔器官をイメージングした第1画像を取得し、前記第1画像を入力した場合に、第2周波数の超音波信号に基づき前記管腔器官をイメージングした第2画像を生成するよう学習済みのモデルに、取得した前記第1画像を入力して前記第2画像を生成する処理をコンピュータに実行させる。
一つの側面では、超音波画像診断を好適に支援することができる。
画像診断システムの構成例を示す説明図である。 サーバの構成例を示すブロック図である。 生成モデルに関する説明図である。 合成画像に関する説明図である。 画像診断装置における表示画面例を示す説明図である。 生成モデルの生成処理の手順を示すフローチャートである。 第2画像の生成処理の手順を示すフローチャートである。 実施の形態2に係る合成画像の一例を示す説明図である。 実施の形態2に係る第2画像の生成処理の手順を示すフローチャートである。
以下、本発明をその実施の形態を示す図面に基づいて詳述する。
(実施の形態1)
図1は、画像診断システムの構成例を示す説明図である。本実施の形態では、第1周波数の超音波信号に基づき患者の管腔器官をイメージングした超音波断層像(以下、「第1画像」と呼ぶ)から、第2周波数の超音波信号でイメージングした超音波断層像(以下、「第2画像」と呼ぶ)を生成する画像診断システムについて説明する。画像診断システムは、情報処理装置1、画像診断装置2を含む。情報処理装置1及び画像診断装置2は、LAN(Local Area Network)、インターネット等のネットワークNを介して通信接続されている。
画像診断装置2は、患者の管腔器官をイメージングするための装置ユニットであり、例えばカテーテル21を用いて患者血管内の超音波検査を行うIVUS(Intravascular Ultrasound)装置である。画像診断装置2は、カテーテル21、画像処理装置22、表示装置23を備える。カテーテル21は被検者の血管内に挿入される医用器具であり、パルス信号に基づく超音波を送信すると共に血管内からの反射波を受信するイメージングコアを備える。画像診断装置2は、カテーテル21で受信した反射波の信号に基づいて血管内の超音波断層像を生成する。画像処理装置22は、カテーテル21で受信した反射波のデータを処理して断層像を生成する処理装置であり、生成した断層像を表示装置23に表示させるほか、検査を行う際の各種設定値の入力を受け付けるための入力インターフェイスなどを備える。
なお、本実施の形態では血管内検査を一例として説明するが、検査対象とする管腔器官は血管に限定されず、例えば胆管、膵管、気管支、腸などのその他の管腔器官であってもよい。また、処理対象とする画像は断層像と呼ばれるものに限定されず、超音波を利用してイメージングされた超音波画像であればよい。
情報処理装置1は、種々の情報処理、情報の送受信が可能な情報処理装置であり、例えばサーバコンピュータ、パーソナルコンピュータ等である。本実施の形態では情報処理装置1がサーバコンピュータであるものとし、以下では簡潔のためサーバ1と読み替える。なお、サーバ1は画像診断装置2と同じ施設(病院等)に設置されたローカルサーバであってもよく、インターネット等を介して画像診断装置2に通信接続されたクラウドサーバであってもよい。サーバ1は、画像診断装置2で生成された第1画像から第2画像を生成する生成装置として機能し、生成した第2画像を画像診断装置2に出力する。具体的には後述のように、サーバ1は、所定の訓練データを学習する機械学習を事前に行い、第1画像を入力として、異なる周波数の第2画像を生成する生成モデル50(図3等参照)を用意してある。サーバ1は、画像診断装置2から取得した第1画像を生成モデル50に入力し、生成された第2画像を画像診断装置2に出力して表示させる。
なお、本実施の形態では画像診断装置2とは別体のサーバ1において第2画像を生成するものとするが、サーバ1が機械学習によって生成した生成モデル50を画像診断装置2(画像処理装置22)にインストールし、画像診断装置2で第2画像の生成を可能としてもよい。
図2は、サーバ1の構成例を示すブロック図である。サーバ1は、制御部11、主記憶部12、通信部13、及び補助記憶部14を備える。
制御部11は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の演算処理装置を有し、補助記憶部14に記憶されたプログラムPを読み出して実行することにより、種々の情報処理、制御処理等を行う。主記憶部12は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の一時記憶領域であり、制御部11が演算処理を実行するために必要なデータを一時的に記憶する。通信部13は、通信に関する処理を行うための通信モジュールであり、外部と情報の送受信を行う。
補助記憶部14は、大容量メモリ、ハードディスク等の不揮発性記憶領域であり、制御部11が処理を実行するために必要なプログラムP、その他のデータを記憶している。また、補助記憶部14は、生成モデル50を記憶している。生成モデル50は、上述の如く訓練データを学習済みの機械学習モデルであり、第1画像を入力として、第1画像を変換した第2画像を生成するモデルである。生成モデル50は、人工知能ソフトウェアを構成するプログラムモジュールとしての利用が想定される。
なお、補助記憶部14はサーバ1に接続された外部記憶装置であってもよい。また、サーバ1は複数のコンピュータからなるマルチコンピュータであっても良く、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。
また、本実施の形態においてサーバ1は上記の構成に限られず、例えば操作入力を受け付ける入力部、画像を表示する表示部等を含んでもよい。また、サーバ1は、CD(Compact Disk)、DVD(Digital Versatile Disc)、USB(Universal Serial Bus)メモリ等の可搬型記憶媒体1aを読み取る読取部を備え、可搬型記憶媒体1aからプログラムPを読み取って実行するようにしても良い。あるいはサーバ1は、半導体メモリ1bからプログラムPを読み込んでも良い。
図3は、生成モデル50に関する説明図である。図3に基づき、生成モデル50の概要を説明する。
生成モデル50は、画像診断装置2でイメージングされた第1画像を入力として、第1画像の周波数を変換した第2画像を生成する機械学習モデルである。本実施の形態では、生成モデル50としてGAN(Generative Adversarial Network)を用いる。GANは、入力データから出力データを生成する生成器(Generator)と、生成器が生成したデータの真偽を識別する識別器(Discriminator)とを備え、生成器及び識別器が競合して学習を行うことでネットワークを構築する。
GANに係る生成器は、ランダムなノイズ(潜在変数)の入力を受け付け、出力データを生成する。識別器は、学習用に与えられる真のデータと、生成器から与えられるデータとを用いて、生成器から与えられたデータの真偽を学習する。GANでは、最終的に生成器の損失関数が最小化し、かつ、識別器の損失関数が最大化するようにネットワークを構築する。
本実施の形態でサーバ1は、訓練用の第1画像及び第2画像を用いて、第1画像から第2画像を生成するGANを生成モデル50として生成する。例えばサーバ1はまず、生成器のパラメータ(重み等)を固定した上で訓練用の第1医用画像を生成器に入力し、第2医用画像を生成する。そしてサーバ1は、生成器が生成した第2医用画像を偽のデータとし、訓練用の第2医用画像を真のデータとして識別器に与え、識別器のパラメータを最適化する。次にサーバ1は、識別器のパラメータを最適値に固定し、生成器の学習を行う。サーバ1は、生成器が生成した第2医用画像を識別器に入力した場合に、真偽の確率が50%に近似するよう生成器のパラメータを最適化する。これにより、サーバ1は生成モデル50を生成する。実際に第1医用画像から第2医用画像を生成する場合は生成器のみを用いる。
なお、生成モデル50はGANに限定されず、VAE(Variational Autoencoder)、U-net等のニューラルネットワーク、あるいは他の学習アルゴリズムに基づくモデルであってもよい。
本実施の形態においてサーバ1は、周波数変換用の生成モデル50としてStarGANを生成する。StarGANは、複数のドメイン間でデータの相互変換を行うモデルである。StarGANの生成器は、一のドメインのデータと、目標とする他のドメインを示すラベルとを入力として受け付け、当該他のドメインのデータを生成する。また、識別器は、生成器が生成したデータの真偽と、当該データのドメインとを識別する。StarGANでは、生成器が生成したデータの真偽を評価するための損失関数(Adversarial Loss)と、ドメインのクラス分類に関する損失関数(Domain Class Loss)と、生成したデータの元のドメインへの逆変換を保証するための損失関数(Reconstruction Loss)とを用いて学習を行い、生成器及び識別器のパラメータを最適化する。
サーバ1は、少なくとも3以上の複数の超音波周波数をStarGANの各ドメインとして、生成モデル50を生成する。例えばサーバ1は、40、45、50、55、及び60MHzを各ドメインに対応する超音波周波数として、いずれかの周波数の超音波断層像を他の周波数の超音波断層像に変換する生成モデル50を生成する。サーバ1は、各周波数の超音波断層像を含む訓練データを用いて学習を行い、一の周波数の超音波断層像と、目標とする他の周波数を示すクラスラベルとを入力として、当該他の周波数に対応する超音波断層像を生成する生成モデル50を生成する。
なお、上記では生成モデル50の一例としてStarGANを挙げたが、CycleGANなど、その他のネットワーク構造のGANであってもよい。また、生成モデル50を複数の周波数の間の相互変換を可能なモデルとする構成は必須ではなく、単一の周波数のみ変換可能なモデルとしてもよい。
サーバ1は、上記の生成モデル50を用いて第1画像を第2画像に変換する。例えばサーバ1は、超音波断層像の高解像度化のため、低周波数の第1画像を高周波数の第2画像に変換する。一般的に、カテーテル21から送信する超音波を高周波数とすることで、超音波断層像の分解能が上がり、血管の内腔境界が明瞭になって読影しやすくなる。そこでサーバ1は、低周波数の第1画像を生成モデル50に入力し、高周波数の第2画像を生成することで、超音波断層像の高解像度化を行う。
一方で、超音波信号を高周波数とした場合、媒質中を伝番する際に信号が減衰しやすくなる。この場合、カテーテル21からの距離が長くなるほど反射波を受信しづらくなるため、血管の深さ方向の情報が乏しくなるという欠点もある。そこでサーバ1は、以下のように、低周波数の第1画像と高周波数の第2画像とを組み合わせた合成画像を生成し、ユーザに提示する。
なお、本実施の形態では高解像度化のために低周波数の第1画像から高周波数の第2画像を生成するものとするが、高周波数の第1画像から低周波数の第2画像を生成してもよい。このように、第1周波数を第2周波数よりも低周波数とする構成は必須ではなく、第1周波数と異なる第2周波数の画像を生成可能であればよい。
図4は、合成画像に関する説明図である。図4では、画像の中心点から所定距離内の領域を第2画像とし、他の領域を元の第1画像とした合成画像を生成する様子を概念的に図示している。なお、図4では便宜上、第2画像に対応する画像領域と他の領域との境界を太線で図示する。図4に基づき、合成画像について説明する。
サーバ1は、生成モデル50で生成した第2画像の一部の画像領域を第1画像に重畳し、合成画像を生成する。具体的には、サーバ1は、血管の内腔領域に相当する画像中心点から所定距離内の画像領域を第2画像から抽出し、第1画像に重畳する。このように、サーバ1は、内腔領域を高解像度とし、その他の領域を低解像度とした超音波断層像を生成し、ユーザに提示する。
この場合にサーバ1は、第2周波数の高低に応じて中心点からの距離を定めることで、第2画像から抽出する画像領域を変動させると好適である。具体的には、サーバ1は、第2周波数が高いほど中心点からの距離を短く設定し、当該距離内の画像領域を抽出する。これにより、高周波数になるほど減衰しやすくなるという特性に照らして、適切な範囲を高解像度の第2画像に置換することができる。
なお、上記では生成モデル50が生成した第2画像から一部の画像領域を抽出する(切り出す)ものとして説明したが、本実施の形態はこれに限定されるものではない。例えばサーバ1は、中心点から所定距離内の領域のみの画像を生成するように生成モデル50に学習させ、当該領域のみの第2画像を生成するようにしてもよい。この場合、サーバ1は、訓練用の第2画像として、第1画像の一部の画像領域のみに対応する画像を生成モデル50に与え、学習させる。これにより、生成モデル50は、所望の画像領域のみの第2画像を生成することができる。
あるいはサーバ1は、第1画像を入力として、第1画像の一部の画像領域を第2周波数に変換した合成画像を第2画像として直接的に生成するよう生成モデル50に学習させてもよい。この場合、サーバ1は、訓練用の第2画像として、第1画像の一部に第2周波数の画像を重畳した合成画像を生成モデル50に与え、学習させる。これにより、生成モデル50は、合成画像を直接的に生成することができる。
このように、サーバ1は、第1画像の少なくとも一部の画像領域を第2周波数に変換した第2画像を生成可能であればよく、全ての範囲の第2画像を生成する構成は必須ではない。
図5は、画像診断装置2における表示画面例を示す説明図である。図5では、超音波検査時に画像診断装置2が表示する画面例を図示している。例えばサーバ1は、検査時に画像診断装置2から第1画像を逐次取得し、リアルタイムで合成画像を逐次生成し、図5に示す画面に表示させる。
なお、本実施の形態では検査時にリアルタイムで画像生成を行うものとするが、録画された超音波断層像(第1画像)を事後的に生成モデル50に入力して第2画像を生成してもよいことは勿論である。
例えば画像診断装置2は、第1周波数(図5では「測定周波数」と記載)を画面左側のメニューバーに表示すると共に、第2周波数(図5では「目標周波数」と記載)を設定するための周波数設定欄501を表示する。周波数設定欄501は、第2周波数の設定入力を受け付けるための入力欄である。画像診断装置2は、周波数設定欄501を介して、第1周波数を第2周波数に変更する設定変更を受け付ける。
周波数の設定変更を受け付けた場合、サーバ1は、画像診断装置2から逐次取得する第1画像を生成モデル50に順次入力し、第2画像の生成を開始する。サーバ1は、周波数設定欄501で設定された第2周波数(クラスラベル)を第1画像と併せて生成モデル50に入力し、第2画像を生成する。サーバ1は、生成した第2画像の一部の画像領域を第1画像に重畳して合成画像を生成し、画像診断装置2に出力する。
画像診断装置2は、サーバ1から出力された合成画像を断層像502として表示する。この場合、画像診断装置2は、第2画像に対応する画像領域を識別可能なように、当該画像領域の表示態様を、他の画像領域と異なる表示態様で表示すると好適である。例えば画像診断装置2は、断層像502と対応付けて表示変更ボタン503を表示し、表示変更ボタン503により表示変更がONに設定されている場合、第2画像に対応する画像領域の表示色を変更する。なお、表示色の変更以外に、例えば太線で示す領域境界の強調表示などを行ってもよい。このように、サーバ1において変換された画像領域を識別可能とすることで、画像診断をより好適に支援することができる。
図6は、生成モデル50の生成処理の手順を示すフローチャートである。図6に基づき、機械学習により生成モデル50を生成する際の処理内容について説明する。
サーバ1の制御部11は、複数の周波数それぞれの超音波断層像を含む訓練データを取得する(ステップS11)。制御部11は訓練データに基づき、一の周波数の超音波断層像を入力した場合に、他の周波数の超音波断層像を生成する生成モデル50を生成する(ステップS12)。具体的には上述の如く、制御部11はStarGANを生成モデル50として生成する。制御部11は一連の処理を終了する。
図7は、第2画像の生成処理の手順を示すフローチャートである。図7に基づき、第2画像を生成する際の処理内容について説明する。
サーバ1の制御部11は、例えば超音波検査の開始時に、画像診断装置2からの要求を受けて一連の処理を開始する。制御部11は、第1周波数の超音波信号に基づいて患者の管腔器官をイメージングした第1画像を画像診断装置2から取得する(ステップS31)。具体的には上述の如く、制御部11は、患者の血管内の超音波断層像を取得する。
制御部11は、超音波信号の周波数を第1周波数から第2周波数に変更する設定変更を受け付ける(ステップS32)。設定変更を受け付けた場合、制御部11は生成モデル50に基づく処理を開始し、ステップS11で取得した第1画像を生成モデル50に入力して、第2周波数の超音波信号でイメージングした場合の第2画像を生成する(ステップS33)。具体的には上述の如く、制御部11は、画像診断装置2から取得した第1画像と、目標とする第2周波数(クラスラベル)とを生成モデル50に入力し、第2画像を生成する。
制御部11は、生成した第2画像から一部の画像領域を抽出する(ステップS34)。具体的には、制御部11は、生成した第2画像に係る第2周波数に応じた距離で、画像中心点から所定距離内の画像領域を抽出する。制御部11は、抽出した画像領域を第1画像に重畳した合成画像を生成する(ステップS35)。制御部11は、生成した合成画像を画像診断装置2に出力する(ステップS36)。
制御部11は、画像診断装置2における超音波検査が終了したか否か判定する(ステップS37)。検査が終了していないと判定した場合(S37:NO)、制御部11は処理をステップS31に戻す。この場合、制御部11はステップS31~S36の処理を繰り返し、画像診断装置2から第1画像を逐次取得して生成モデル50に入力し、第2画像を順次生成して合成画像を出力する。検査が終了したと判定した場合(S37:YES)、制御部11は一連の処理を終了する。
以上より、本実施の形態1によれば、所望の周波数の超音波断層像を得ることができ、超音波検査を好適に支援することができる。
また、本実施の形態1によれば、第1画像と第2画像とを組み合わせた合成画像を得ることができ、高解像度化と深さ方向の情報の把握とを両立させることができる。
また、本実施の形態1によれば、第1画像に重畳した第2画像の領域の表示態様を変更することで、生成モデル50を用いて加工された部分を明示することができる。
また、本実施の形態1によれば、複数の周波数の間で画像の相互変換を行う生成モデル50を利用することで、ユーザが選択した任意の周波数の第2画像を生成することができる。
(実施の形態2)
実施の形態1では、第1画像に対し、一種類の第2画像を重畳した合成画像を生成する形態について説明した。本実施の形態では、複数の第2周波数それぞれに対応する第2画像を生成し、第1画像に重畳する形態について説明する。
図8は、実施の形態2に係る合成画像の一例を示す説明図である。図8では、複数の第2周波数それぞれに対応する複数の第2画像が第1画像に重畳される様子を概念的に図示している。図8に基づき、本実施の形態の概要を説明する。
画像診断装置2から第1画像を取得した場合、サーバ1は、取得した第1画像を生成モデル50に入力して、複数の第2周波数それぞれに対応する複数の第2画像を生成する。例えばサーバ1は、第2周波数とする複数の周波数の設定入力をユーザから受け付け、設定された各周波数に対応する各第2画像を生成する。なお、例えばサーバ1は、ユーザから設定入力を受け付けることなく、生成モデル50が生成可能な複数の周波数のうち、第1画像に係る第1周波数よりも高い複数の周波数を第2周波数として自動的に選択してもよい。
サーバ1は、生成した複数の第2画像それぞれから一部の画像領域を抽出する。具体的には実施の形態1と同様に、サーバ1は、第2周波数の高低に応じて中心点からの距離を定め、中心点から当該距離内の画像領域を抽出する。サーバ1は、複数の第2画像それぞれの第2周波数に基づいて中心点からの距離を定め、高周波数であるほど中心点からの距離が短くなるように、各第2画像から異なる距離で画像領域を抽出する。
サーバ1は、各第2画像から抽出した各画像領域を第1画像に重畳し、合成画像を生成する。例えばサーバ1は、第2周波数が低いほど画像背面側に配置されるように、第2周波数の高低に応じて配置順序を定める。サーバ1は、低周波数の第2画像から抽出した画像領域から順に第1画像に重畳し、合成画像を生成する。上述の処理により、画像中心から外側に向かうほど低解像度となるように、周波数を連続的に変換した合成画像が生成される。
図9は、実施の形態2に係る第2画像の生成処理の手順を示すフローチャートである。画像診断装置2から第1周波数に係る第1画像を取得した後(ステップS31)、サーバ1は以下の処理を実行する。
サーバ1の制御部11は、目標とする複数の第2周波数を設定する設定入力を受け付ける(ステップS301)。制御部11は、第1画像を生成モデル50に入力して、設定された複数の第2周波数それぞれに対応する複数の第2画像を生成する(ステップS302)。具体的には、制御部11は、第1周波数よりも高い複数の第2周波数それぞれの第2画像を生成する。
制御部11は、生成した複数の第2画像それぞれから一部の画像領域を抽出する(ステップS303)。具体的には、制御部11は、各第2画像に対応する各第2周波数に基づいて中心点からの距離を設定し、異なる距離で中心点からの画像領域を抽出する。
制御部11は、複数の第2画像それぞれから抽出した複数の画像領域を第1画像に重畳し、合成画像を生成する(ステップS304)。具体的には、制御部11は、第2周波数が低いほど画像背面側に配置されるように、第2周波数の高低に応じた順序で各第2画像から抽出した画像領域を第1画像に重畳する。制御部11は処理をステップS36に移行する。
以上より、本実施の形態2によれば、画像中心から外側に向けて解像度を連続的に変換した合成画像を得ることができる。
今回開示された実施の形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
1 サーバ(情報処理装置)
11 制御部
12 主記憶部
13 通信部
14 補助記憶部
1a 可搬型記憶媒体
1b 半導体メモリ
2 画像診断装置
21 カテーテル
22 画像処理装置
23 表示装置
50 生成モデル
501 周波数設定欄
502 断層像
503 表示変更ボタン
N ネットワーク
P プログラム

Claims (11)

  1. 第1周波数の超音波信号に基づき患者の管腔器官をイメージングした第1画像を取得し、
    前記第1画像を入力した場合に、第2周波数の超音波信号に基づき前記管腔器官をイメージングした第2画像を生成するよう学習済みのモデルに、取得した前記第1画像を入力して前記第2画像を生成する
    処理をコンピュータに実行させるプログラム。
  2. 前記モデルを用いて、前記第1画像の一部の画像領域を前記第2周波数に変換した前記第2画像を生成し、
    前記第1画像に前記第2画像を重畳した合成画像を生成する
    請求項1に記載のプログラム。
  3. 前記第1画像は、前記患者の血管内をイメージングした超音波断層像であり、
    前記モデルを用いて、前記第1画像の中心点から所定距離内の画像領域を前記第2周波数に変換した前記第2画像を生成する
    請求項2に記載のプログラム。
  4. 前記第2周波数に応じて前記中心点からの距離が異なる画像領域を変換した前記第2画像を生成する
    請求項3に記載のプログラム。
  5. 重畳した前記第2画像に係る画像領域を、前記第1画像に係る画像領域とは異なる表示態様で示す前記合成画像を生成する
    請求項2~4のいずれか1項に記載のプログラム。
  6. 前記モデルは、少なくとも3以上の周波数のうち、一の周波数に係る前記第1画像を入力した場合に他の周波数に係る前記第2画像を生成するよう学習済みのモデルであり、
    前記第1画像と、前記第2周波数とを前記モデルに入力して、該第2周波数に対応する前記第2画像を生成する
    請求項1~5のいずれか1項に記載のプログラム。
  7. 複数の周波数から前記第2周波数を選択する選択入力を受け付け、
    選択された前記第2周波数を前記モデルに入力して、該第2周波数に対応する前記第2画像を生成する
    請求項1~5のいずれか1項に記載のプログラム。
  8. 前記管腔器官の検査時に前記第1画像を逐次取得し、
    前記第1周波数を前記第2周波数に変更する設定変更を受け付け、
    設定変更を受け付けた場合、逐次取得する前記第1画像を前記モデルに入力して前記第2画像の生成を開始する
    請求項1~7のいずれか1項に記載のプログラム。
  9. 第1周波数の超音波信号に基づき患者の管腔器官をイメージングした第1画像を取得し、
    前記第1画像を入力した場合に、第2周波数の超音波信号に基づき前記管腔器官をイメージングした第2画像を生成するよう学習済みのモデルに、取得した前記第1画像を入力して前記第2画像を生成する
    処理をコンピュータが実行する情報処理方法。
  10. 第1周波数の超音波信号に基づき患者の管腔器官をイメージングした第1画像を取得する取得部と、
    前記第1画像を入力した場合に、第2周波数の超音波信号に基づき前記管腔器官をイメージングした第2画像を生成するよう学習済みのモデルに、取得した前記第1画像を入力して前記第2画像を生成する生成部と
    を備える情報処理装置。
  11. 第1周波数及び第2周波数の超音波信号に基づき患者の管腔器官を夫々イメージングした第1画像及び第2画像を含む訓練データを取得し、
    前記訓練データに基づき、前記第1画像を入力した場合に前記第2画像を生成する学習済みモデルを生成する
    処理をコンピュータが実行するモデル生成方法。
JP2022509535A 2020-03-27 2021-03-09 プログラム、情報処理方法、情報処理装置及びモデル生成方法 Active JP7545466B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020058995 2020-03-27
JP2020058995 2020-03-27
PCT/JP2021/009299 WO2021193020A1 (ja) 2020-03-27 2021-03-09 プログラム、情報処理方法、情報処理装置及びモデル生成方法

Publications (2)

Publication Number Publication Date
JPWO2021193020A1 JPWO2021193020A1 (ja) 2021-09-30
JP7545466B2 true JP7545466B2 (ja) 2024-09-04

Family

ID=77890170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022509535A Active JP7545466B2 (ja) 2020-03-27 2021-03-09 プログラム、情報処理方法、情報処理装置及びモデル生成方法

Country Status (3)

Country Link
US (1) US12533113B2 (ja)
JP (1) JP7545466B2 (ja)
WO (1) WO2021193020A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012196302A (ja) 2011-03-22 2012-10-18 Ge Medical Systems Global Technology Co Llc 超音波の送信部、超音波プローブ、超音波画像表示装置及びその制御プログラム
JP2015503363A (ja) 2011-12-21 2015-02-02 ヴォルカノ コーポレイションVolcano Corporation 血管画像における血液及び血液尤度の可視化方法
JP2018534970A (ja) 2015-10-02 2018-11-29 ハートフロー, インコーポレイテッド 動脈の供給能力と終末器官の必要量とを比較することにより心血管疾患の診断及び評価をするためのシステム及び方法
JP2019209130A (ja) 2018-06-07 2019-12-12 キヤノンメディカルシステムズ株式会社 超音波診断装置、超音波パラメータ学習装置、超音波診断装置制御プログラム及び超音波パラメータ学習プログラム
US20200060652A1 (en) 2018-08-23 2020-02-27 The Board Of Trustees Of The Leland Stanford Junior University Neural networks-assisted contrast ultrasound imaging

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100049336A (ko) * 2008-11-03 2010-05-12 (주)메디슨 멀티 주파수 모드의 초음파 영상 생성 방법 및 시스템
WO2011089537A1 (en) * 2010-01-19 2011-07-28 Koninklijke Philips Electronics N.V. Imaging apparatus
US11232611B2 (en) * 2019-10-10 2022-01-25 GE Precision Healthcare LLC System and methods for reducing anomalies in ultrasound images
US11308609B2 (en) * 2019-12-04 2022-04-19 GE Precision Healthcare LLC System and methods for sequential scan parameter selection
US12016729B2 (en) * 2020-01-24 2024-06-25 Canon Kabushiki Kaisha Ultrasonic diagnostic apparatus, learning apparatus, and image processing method
JP7428020B2 (ja) * 2020-03-06 2024-02-06 コニカミノルタ株式会社 超音波診断装置、超音波画像生成方法、プログラム及びモデル訓練装置
US11593933B2 (en) * 2020-03-16 2023-02-28 GE Precision Healthcare LLC Systems and methods for ultrasound image quality determination

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012196302A (ja) 2011-03-22 2012-10-18 Ge Medical Systems Global Technology Co Llc 超音波の送信部、超音波プローブ、超音波画像表示装置及びその制御プログラム
JP2015503363A (ja) 2011-12-21 2015-02-02 ヴォルカノ コーポレイションVolcano Corporation 血管画像における血液及び血液尤度の可視化方法
JP2018534970A (ja) 2015-10-02 2018-11-29 ハートフロー, インコーポレイテッド 動脈の供給能力と終末器官の必要量とを比較することにより心血管疾患の診断及び評価をするためのシステム及び方法
JP2019209130A (ja) 2018-06-07 2019-12-12 キヤノンメディカルシステムズ株式会社 超音波診断装置、超音波パラメータ学習装置、超音波診断装置制御プログラム及び超音波パラメータ学習プログラム
US20200060652A1 (en) 2018-08-23 2020-02-27 The Board Of Trustees Of The Leland Stanford Junior University Neural networks-assisted contrast ultrasound imaging

Also Published As

Publication number Publication date
US20230020491A1 (en) 2023-01-19
JPWO2021193020A1 (ja) 2021-09-30
US12533113B2 (en) 2026-01-27
WO2021193020A1 (ja) 2021-09-30

Similar Documents

Publication Publication Date Title
US11436729B2 (en) Medical image processing apparatus
JP7192512B2 (ja) 学習プログラム、学習装置及び学習方法
JP7695262B2 (ja) 情報処理装置、情報処理方法、プログラム及びモデル生成方法
JP7803869B2 (ja) プログラム、情報処理装置及び情報処理方法
EP4129197B1 (en) Computer program and information processing device
CN111598989B (zh) 一种图像渲染参数设置方法、装置、电子设备及存储介质
EP4407554A1 (en) Medical image diagnostics assistance device, medical image diagnostics assistance method, and program
EP4218598A1 (en) Information processing device, information processing method, and program
WO2022071264A1 (ja) プログラム、モデル生成方法、情報処理装置及び情報処理方法
JP7803928B2 (ja) プログラム、画像処理方法及び画像処理装置
JP7545466B2 (ja) プログラム、情報処理方法、情報処理装置及びモデル生成方法
WO2021193026A1 (ja) プログラム、情報処理方法、情報処理装置及びモデル生成方法
WO2021193008A1 (ja) プログラム、情報処理方法、情報処理装置及びモデル生成方法
CN116549011B (zh) 一种多普勒超声信号处理方法、系统和存储介质
WO2024181083A1 (ja) 超音波診断装置および超音波診断装置の制御方法
WO2021193021A1 (ja) プログラム、情報処理方法、情報処理装置及びモデル生成方法
WO2022071208A1 (ja) 情報処理装置、情報処理方法、プログラム、モデル生成方法及び訓練データ生成方法
JP7551839B1 (ja) 超音波診断装置および記憶媒体
JP2022054814A (ja) 画像診断支援装置および画像処理方法
JP2024139509A (ja) プログラム、画像処理方法、画像処理装置及びモデル生成方法
US20240415494A1 (en) Ultrasonic diagnostic apparatus, data management system, data estimation method, and recording medium
EP4527314B1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
US12620089B2 (en) Information processing device, information processing method, and program
JP2024030065A (ja) 情報処理方法、プログラム、情報処理装置及びモデル生成方法
KR102773723B1 (ko) 생체 이미지 판독 지원 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240823

R150 Certificate of patent or registration of utility model

Ref document number: 7545466

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150