Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7650651B2 - 超音波診断システム及び超音波画像処理方法 - Google Patents
[go: Go Back, main page]

JP7650651B2 - 超音波診断システム及び超音波画像処理方法 - Google Patents

超音波診断システム及び超音波画像処理方法 Download PDF

Info

Publication number
JP7650651B2
JP7650651B2 JP2020206013A JP2020206013A JP7650651B2 JP 7650651 B2 JP7650651 B2 JP 7650651B2 JP 2020206013 A JP2020206013 A JP 2020206013A JP 2020206013 A JP2020206013 A JP 2020206013A JP 7650651 B2 JP7650651 B2 JP 7650651B2
Authority
JP
Japan
Prior art keywords
image
derived
ultrasound
filter
adjustment parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020206013A
Other languages
English (en)
Other versions
JP2022092981A (ja
Inventor
良太 大住
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2020206013A priority Critical patent/JP7650651B2/ja
Priority to US17/643,461 priority patent/US20220188998A1/en
Publication of JP2022092981A publication Critical patent/JP2022092981A/ja
Application granted granted Critical
Publication of JP7650651B2 publication Critical patent/JP7650651B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/06Measuring blood flow
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/465Displaying means of special interest adapted to display user selection data, e.g. icons or menus
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/488Diagnostic techniques involving Doppler signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physiology (AREA)
  • Human Computer Interaction (AREA)
  • Hematology (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Processing (AREA)

Description

本明細書及び図面に開示の実施形態は、超音波診断システム及び超音波画像処理方法に関する。
超音波診断に係る画像処理の一つに、超音波画像を多重解像度分解し、各分解画像に非線形異方性拡散フィルタ(Nonlinear Anisotropic Diffusion Filter)またはコヒーレンス強調拡散フィルタ(Coherence Enhancing Diffusion (CED) Filter)をかけ、そのフィルタ処理の過程で生じた「エッジ情報」を利用して多重解像度高域信号を制御する技術がある。当該技術においては、各階層におけるエッジ情報(組織境界部を示す空間マップ)を、ノイズ又はスペックルを低減させる領域か、組織境界に沿った平滑化や境界の強調を行わせる領域かの判別にも利用している。
当該技術で採用されている非線形異方性拡散フィルタには、組織境界の方向に依存するフィルタの強さやエッジの検出度合を制御する幾つかのパラメータがあり、それらが多重解像度分解の階層分あるため、パラメータの数が多数になる傾向がある。多数のパラメータにより、画質設計者がフィルタの画質をきめ細やかに設定できるものの、フィルタの扱いに熟達していなければ所望の画質にすばやく達するのは難しい。
特開2009-153918号公報 特開2009-233408号公報
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、超音波診断に係る画像処理における画質調整を簡素化することである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
実施形態に係る超音波診断システムは、画像処理部、調整部及び合成部を有する。画像処理部は、被検体に関する超音波画像に対する画像処理から派生する2以上の派生画像を生成する。調整部は、前記2以上の派生画像各々に可変の係数値を適用して2以上の調整後派生画像を生成する。合成部は、前記超音波画像と前記2以上の調整後派生画像との合成画像を生成する。
図1は、第1実施形態に係る超音波診断システムの構成例を示す図である。 図2は、第1実施形態に係る画像処理回路の画像処理機能による非線形画像フィルタの典型的な流れを示す図である。 図3は、第1実施形態に係る画像処理回路による非線形異方性拡散フィルタ処理の典型的な流れを示す図である。 図4は、第1実施形態に係る画像処理回路による簡素化画像フィルタを模式的に示す図である。 図5は、応用例1に係るパラメータ設定画面の一例を示す図である。 図6は、応用例1に係る他のパラメータ設定画面の一例を示す図である。 図7は、応用例1に係る他のパラメータ設定画面の一例を示す図である。 図8は、深さ位置に応じた画質調整パラメータα及びαの設定値の遷移を模式的に示す図である。 図9は、応用例3に係る簡素化画像フィルタを模式的に示す図である。 図10は、第2実施形態に係る簡素化画像フィルタを模式的に示す図である。
以下、図面を参照しながら、超音波診断システム及び超音波画像処理方法の実施形態について詳細に説明する。
(第1実施形態)
図1は、第1実施形態に係る超音波診断システム1の構成例を示す図である。図1に示すように、超音波診断システム1は、超音波プローブ11、送受信回路12、Bモード処理回路13、ドプラ処理回路14、画像処理回路15、表示機器16、記憶装置17、制御回路18、入力機器19を有する。
超音波プローブ11は、被検体との間で照射・反射される超音波の送受波を担うデバイス(探触子)であり、電気/機械可逆的変換素子で形成されている。超音波プローブ11は、例えばアレイ状に配列される複数の素子を先端部に装備したフェーズドアレイタイプのもので構成される。これにより、超音波プローブ11は、供給される駆動信号のパルス駆動電圧を超音波パルス信号に変換して被検体のスキャン領域内の所望方向に送信し、且つ被検体から反射してきた超音波信号をこれに対応する電圧のエコー信号に変換する。
超音波信号送信に関し、送受信回路12は、超音波プローブ11に駆動信号を供給する。具体的には、送受信回路12は、トリガ発生回路、遅延回路及びパルサ回路等を有する。パルサ回路は、所定のレート周波数で、送信超音波を形成するためのレートパルスを繰り返し発生する。遅延回路は、超音波プローブ11から発生される超音波をビーム状に集束して送信指向性を決定するために必要な圧電振動子ごとの遅延時間を、パルサ回路が発生する各レートパルスに対し与える。トリガ発生回路は、レートパルスに基づくタイミングで、超音波プローブ11に駆動信号(駆動パルス)を印加する。すなわち、遅延回路は、各レートパルスに対し与える遅延時間を変化させることで、圧電振動子面からの送信方向を任意に調整する。
なお、送受信回路12は、制御回路18の指示に基づいて、所定のスキャンシーケンスを実行するために、送信周波数、送信駆動電圧などを瞬時に変更可能な機能を有している。特に、送信駆動電圧の変更は、瞬間にその値を切り替え可能な発信回路、または、複数の電源ユニットを電気的に切り替える機構によって実現される。
超音波信号受信に関し、送受信回路12は、超音波プローブ11が受信した反射波信号に応じたエコー信号に対して各種処理を行なって、当該エコー信号を受信指向性に応じた反射波データに変換する。具体的には、送受信回路12は、アンプ回路、A/D変換器及び加算器等を有する。アンプ回路は、反射波信号をチャンネルごとに増幅してゲイン補正処理を行なう。A/D変換器は、ゲイン補正された反射波信号をA/D変換し、デジタルデータに受信指向性を決定するのに必要な遅延時間を与える。加算器は、A/D変換器によって処理された反射波信号の加算処理を行なって反射波データを生成する。加算器の加算処理により、反射波信号の受信指向性に応じた方向からの反射成分が強調される。
Bモード処理回路13は、送受信回路12からの反射波データに対して、対数増幅、包絡線検波処理、対数圧縮等を行い、複数のサンプル点それぞれの信号強度が輝度の明るさで表現されるBモード情報を生成する。
ドプラ処理回路14は、送受信回路12からの反射波データに対して、カラードプラ法を実行し、血流情報すなわちドプラ情報を算出する。カラードプラ法では、超音波の送受信が同一の走査線上で複数回行なわれ、同一位置のデータ列に対してMTI(Moving Target Indicator)フィルタを掛けることで、静止している組織、或いは、動きの遅い組織に由来する信号(クラッタ信号) を抑制して、血流に由来する信号を抽出する。そしてカラードプラ法では、この血流信号から血流の速度、血流の分散、血流のパワー等のドプラ情報を推定する。
画像処理回路15は、画像処理を行うプロセッサである。画像処理回路15は、記憶装置17に記憶されているプログラムを実行することで、当該プログラムに対応する機能を実現する。画像処理回路15は、例えば、画像生成機能151、画像処理機能152、調整機能153、合成機能154及び表示制御機能155を実現する。画像生成機能151、画像処理機能152、調整機能153、合成機能154及び表示制御機能155は、単一の画像処理回路15により実現される必要はなく、複数の画像処理回路15により分担して実現されてもよい。画像生成機能151、画像処理機能152、調整機能153、合成機能154及び/又は表示制御機能155は、プログラムとしてではなく、ハードウェアとして実装されてもよい。
画像生成機能151の実現により、画像処理回路15は、Bモード情報の走査方式を、表示に適した走査方式に変換(スキャン変換)し、被検体に関するBモード画像を生成する。同様に、画像処理回路15は、ドプラ情報の走査方式を、表示に適した走査方式にスキャン変換し、被検体に関するドプラ画像を生成する。Bモード画像やドプラ画像等の表示画像をまとめて超音波画像と呼ぶ。画像処理回路15は、各画像情報の合成や並立、表示位置を示す情報、さらに超音波診断システム1の操作を補助するための各種情報や、患者情報などの超音波診断に必要な付帯情報も、超音波画像と共に生成される。
画像処理機能152の実現により、画像処理回路15は、画像生成機能151により生成された超音波画像に対する画像処理から派生する2以上の派生画像を生成する。より詳細には、画像処理回路15は、超音波画像に当該画像処理を適用することにより加工される2以上の画像特徴を代表する2以上の派生画像を、超音波画像に当該画像処理を適用して生成される第1の出力画像と、当該画像処理に用いるパラメータを所定値にしたときに超音波画像に当該画像処理を適用して生成される第2の出力画像と、超音波画像とに基づいて生成する。当該画像処理は、非線形画像処理であり、超音波画像に含まれるノイズ又はスペックルの低減と、組織境界に沿う平滑化と、組織境界の強調とを行う画質向上のための画像処理である。当該画像処理として、拡散方程式を用いた非線形画像フィルタが実行される。上記パラメータは、拡散方程式の拡散テンソルに関連するパラメータである。第1実施形態において画像処理回路15は、超音波画像に非線形画像フィルタを施して2以上の派生画像を生成する。
調整機能153の実現により、画像処理回路15は、画像処理機能152により生成された2以上の派生画像各々に可変の係数値を適用して2以上の調整後派生画像を生成する。なお、係数値が適用された派生画像を調整後派生画像と呼ぶ。
合成機能154の実現により、画像処理回路15は、画像処理機能152の処理である超音波画像と、調整機能153により生成された2以上の調整後派生画像との合成画像を生成する。
表示制御機能155の実現により、画像処理回路15は、種々の情報を、表示機器16を介して出力する。例えば、画像処理回路15は、合成機能154により生成された合成画像を表示機器16に表示する。
表示機器16は、画像処理回路15との連携により、画像処理回路15からの表示情報を視覚的映像情報に変換して表示する表示機器である。例えば、表示機器16は、画像処理回路15により生成された合成画像を表示する。表示機器16としては、例えばCRTディスプレイや、液晶ディスプレイ、有機ELディスプレイ、プラズマディスプレイ等が適用可能である。なお、表示機器16としてプロジェクタが設けられてもよい。
記憶装置17は、種々の情報を記憶するROM(Read Only Memory)やRAM(Random Access Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)、集積回路記憶装置等の記憶装置である。また、記憶装置17は、CD-ROMドライブやDVDドライブ、フラッシュメモリ等の可搬性記憶媒体との間で種々の情報を読み書きする駆動装置等であっても良い。例えば、記憶装置17は、Bモード情報やドプラ情報、Bモード画像、ドプラ画像、合成画像等の各種情報を記憶する。
制御回路18は、超音波診断システム1の処理全体を制御するプロセッサである。制御回路18は、記憶装置17に記憶されているプログラムを実行することで、当該プログラムに対応する機能を実現する。具体的には、制御回路18は、入力機器19を介した操作者から入力された各種設定要求や、各種制御プログラム及び各種データに基づき、送受信回路12、Bモード処理回路13、ドプラ処理回路14及び画像処理回路15の処理を制御する。さらに制御回路18には入力機器19とのインターフェース機能も含まれる。
入力機器19は、タッチパネル、操作パネル上の各種ユーザインターフェースである。操作者は、超音波診断システム1に対する各種操作や指令を入力機器19により入力することが可能である。なお、表示機器16と入力機器19とが分離されている必要はなく、両者が機構的に一体になっていてもよい。
送受信回路12、Bモード処理回路13、ドプラ処理回路14、画像処理回路15、表示機器16、記憶装置17、制御回路18及び入力機器19は、単一の装置本体とも呼ばれる筐体に実装され、超音波プローブ11は、装置本体にケーブルを介して着脱可能に接続される。なお、超音波診断システム1のハードウェア構成はこれに限定されない。例えば、送受信回路12、Bモード処理回路13、ドプラ処理回路14、画像処理回路15、表示機器16、記憶装置17、制御回路18及び入力機器19の一部機能又は全部機能が超音波プローブ11に実装されていてもよい。画像処理回路15、表示機器16及び記憶装置17の一部機能又は全部機能が、装置本体にネットワークを介して接続されたコンピュータに実装されていてもよい。また、画像処理回路15と制御回路18とは別々のハードウェアに実装されている必要はなく、単一のハードウェアに実装されてもよい。
次に、第1実施形態に係る画像処理回路15の処理の詳細について説明する。画像処理回路15は、非線形画像フィルタの一例として、非線形異方性拡散フィルタ又はコヒーレンス強調拡散フィルタ等を実行可能である。これら非線形画像フィルタは、超音波画像に含まれるノイズ又はスペックルの低減と、組織境界に沿う平滑化と、組織境界の強調とを行う。
まず、非線形画像フィルタの詳細について説明する。以下、非線形画像フィルタは、一例として、非線形異方性拡散フィルタを実行するものとする。また、非線形画像フィルタが施される超音波画像はBモード画像であるとする。非線形画像フィルタが施されるBモード画像は、画像処理回路15によるスキャン変換前の画像であってもよいし、スキャン変換後の画像であってもよい。また、このBモード画像は、TGC(Time Gain Control)等の深さ位置に応じたゲイン調整が施された画像であってもよいし、ゲイン調整が施されていない画像であってもよい。
図2は、画像処理回路15の画像処理機能152による非線形画像フィルタ200Aの典型的な流れを示す図である。非線形画像フィルタ200Aでは、多重解像度分解/再構成が行なわれるために、複数階層からなる多重構造を有している。本実施形態において多重解像度分解/再構成の最高次数はレベル3としている。なお、最高次数はレベル3に限定されず、2以上であれば特に限定されない。
非線形画像フィルタ200Aは、レベル毎に多重解像度分解処理211、221、231、非線形異方性拡散フィルタ処理213、223、233、高域レベル制御処理212、222、232及び多重解像度再構成処理214、224、234を有している。
各レベルの多重解像度分解処理211、221、231は、入力画像に多重解像度分解を施す。多重解像度分解処理211、221及び231は、離散ウェーブレット変換、ラプラシアン・ピラミッド法など様々な方法が可能である。2次元画像の多重解像度分解の結果、分解後の画像は分解前に比べ縦横の長さ(画素数)が半分の低域(LL)、水平方向高域(LH)、垂直方向高域(HL)、対角線方向高域(HH)の各画像に分かれる。
レベル1の多重解像度分解処理211は、画像生成機能151により生成されたBモード画像に多重解像度分解処理を施してレベル1の低域画像、水平方向高域画像、垂直方向高域画像及び対角線方向高域画像を生成する。レベル2及びレベル3の多重解像度分解処理221、231は、前階層の多重解像度分解処理211、221により生成された低域画像に多重解像度分解処理を施して同レベルの低域画像、水平方向高域画像、垂直方向高域画像及び対角線方向高域画像を生成する。
各レベルの非線形異方性拡散フィルタ処理213、223、233は、同レベルの多重解像度分解処理211、221、231において生成された低域画像に対して非線形異方性拡散フィルタを施し、フィルタ後の低域画像を生成する。また、非線形異方性拡散フィルタ処理213、223、233は、低域画像に基づくエッジ情報を出力する。エッジ情報は、エッジの大きさ及び向きに関する情報である。
ここで、非線形異方性拡散フィルタについて詳細に説明する。非線形異方性拡散フィルタは以下の偏微分方程式(1)式で表される。
ここでIは処理する画像の画素値、∇Iはその勾配ベクトル(gradient vector)、tは処理にかかわる時刻である。tは、実際の処理上では、この拡散方程式の処理回数を示す。本実施形態において処理回数tは何回であっても良いが、説明を具体的に行なうため、1回であるとする。
(1)式のDは拡散テンソル(diffusion tensor)であって、次の(2)式のように表される。
(2)式中のλ及びλD2は拡散テンソルDの固有値であり、Rは拡散テンソルDの固有ベクトルである。Rは回転行列である。拡散テンソルDの固有ベクトルω及びωに基づいて、R=(ω,ω)により表される。
拡散テンソルDは、各画素の勾配ベクトルに対し特定の向きとその垂直方向とにそれぞれ係数c及びcをかける演算操作を施す。特定の向きは、画像に描画される組織等の構造のエッジの向きであり、係数はエッジの大きさに依存する。
エッジの大きさ及び向きを検出するため、当該画像の構造テンソル(structure tensor)を求め、その固有値と固有ベクトルを算出する。固有値はエッジの大きさに関連付けられ、固有ベクトルはエッジの向きを表す。
構造テンソルSは、次の(3)式により表される。
は、画像Iのx方向(水平方向)の空間微分、Iは、画像Iのy方向(垂直方向)の空間微分を表す。Gρは2次元ガウス関数、演算子「*」は畳み込みを表す。固有値μ及びμは、それぞれ2次元構造テンソルSの第1固有値及び第2固有値である。Rは構造テンソルSの固有ベクトルからなる回転行列である。
構造テンソルSのエッジ情報は、拡散テンソルDの計算に利用される。まずエッジの大きさEは、第1固有値μと第2固有値μとの差分に依存し、例えば以下の(4)式に従い算出される。
パラメータkは、エッジ成分の抽出度合を示すパラメータである。パラメータkは、ユーザにより入力機器19等を介して任意に設定可能である。例えば、パラメータkを小さくすると、エッジ成分が抽出されやすくなる。
さらに、拡散テンソルDに用いられる係数cは、以下の(5)式に従い、エッジの大きさEの関数fになり、係数cは、以下の(6)式に従い、エッジの大きさEの関数fになる。
エッジの向きは、回転行列Rに対応する。係数c、係数c及び回転行列Rに基づいて上記(2)式に従い拡散テンソルDの各要素値d11、d12及びd22が計算される。
エッジの大きさ及び方向の算出は、必ずしも上記の方法に厳密に従わなくともよく、処理の第一段階としてI及びIを計算する代わりに、ソーベルフィルタ(sobel filter)やガボールフィルタ(Gabor filter)、多重解像度分解の高域成分を適用してもよい。
なお、(5)式及び(6)式は、実際にはエッジの大きさEの1次多項式であるため、係数c及びcを制御するパラメータは、それぞれ4個程度必要である。
非線形異方性拡散フィルタの計算は、上記(1)式に従い、偏微分方程式の数値解析的解法によって行う。すなわち、時刻tにおいて、ある画素及びその周囲8画素からなる9画素の各画素値と、拡散テンソルDの各要素値d11、d12及びd22とに基づいて、時刻t+Δtにおけるその点の新たな画素値を求め、次にt+Δtを新たなtとして、同様の計算を1回から数回繰り返す。
図3は、画像処理回路15による非線形異方性拡散フィルタ処理213、223、233の典型的な流れを示す図である。なお、ステップ301~ステップ305の処理は、処理対象の低域画像を構成する画素毎に行なわれる。
図3に示すように、まず画像処理回路15は、低域画像の処理対象画素の画素値のx方向に関する微分値Iとy方向に関する微分値Iとを算出する(ステップ301)。微分値I及びIを算出すると、画像処理回路15は、(3)式に示すように、算出された微分値I及びIと2次元ガウス関数Gρとを畳み込み演算し、構造テンソルSの要素s11、s12及びs22を算出する(ステップ302)。なお、ステップS2における計算には、2次元ガウス関数Gρの計算も含まれる。
構造テンソルSの要素s11、s12及びs22が算出されると、画像処理回路15は、(3)式に従い、算出された要素s11、s12及びs22を線形代数演算して2次元構造テンソルSの第1固有値μ及び第2固有値μを算出し、(4)式に従い、第1固有値μ及び第2固有値μに基づいてエッジの大きさEを算出する(ステップ303)。エッジの大きさEは、高域レベル制御処理212、222、232に用いられる。また、(3)式に従い、2次元構造テンソルSの回転行列R、すなわち、エッジの向きも算出される。
また、画像処理回路15は、構造テンソルSの要素s11、s12及びs22に基づいて、非線形異方性拡散フィルタの偏微分方程式の数値解析に用いられる各係数を計算する(ステップ304)。例えば、画像処理回路15は、(5)式及び(6)式に従い、係数c及び係数cを計算し、(2)式に従い、係数c、係数c及び回転行列Rに基づいて拡散テンソルDの各要素値d11、d12及びd22を計算する。処理の効率化のため、エッジの大きさEが計算に用いられてもよい。その後、画像処理回路15は、偏微分方程式の数値解析的計算を実行する(ステップ305)。具体的には、画像処理回路15は、(1)式に従い、要素値d11、d12及びd22と微分値I及びIとに基づいて(1)式の偏微分方程式を数値解析演算し、出力画素値を計算する。時刻tにおいて、処理対象画素とその近傍ボクセルにおける画素値と拡散テンソルの各要素値とから、時刻t+Δtにおける処理対象画素の新たな画素値を求め、次にt+Δtを新たなtとして、同様の計算を1回から数回繰り返す。算出された画素値は、多重解像度再構成処理214、224及び234に用いられる。
ステップ305が行なわれると、処理対象画素を変更して再びステップ301~305が行なわれる。このようにして、処理対象画像を構成する全ての画素について、ステップ301~ステップ305が行なわれると、画像処理回路15による非線形異方性拡散フィルタ処理213、223、233が終了する。
図2に戻り、高域レベル制御処理212、222、232と多重解像度再構成処理214、224、234とを説明する。
各レベルの高域レベル制御処理212、222、232は、同レベルの多重解像度分解処理211、221、231により生成された3枚の高域画像を、同レベルの非線形異方性拡散フィルタ処理213、223、233からのエッジ情報によって画素値を制御する。エッジ情報は、構造テンソルの固有値に基づく規格化されたエッジの大きさである。高域レベル制御処理212、222、232は、エッジ情報と各高域画像との画素ごとの積算値を演算し、さらに当該演算値に各高域画像の制御係数を乗じる。他の画素値の制御例としては、エッジの大きさに閾値を設定して閾値以上をエッジとみなし、エッジ以外の領域に各高域画像の制御係数をかけてもよい。このようにして処理された3枚の高域画像は、多重解像度再構成処理214、224,234に用いられる。
各レベルの多重解像度再構成処理214、224,234は、同レベルの非線形異方性拡散フィルタ処理213、223、233からの1枚の低域画像処理回路と、同レベルの高域レベル制御処理212、222、232からの3枚の高域画像とに基づいて、1枚の合成画像を生成する。合成画像の縦横の長さは、利用した低域画像及び高域画像の2倍となる。
レベル3の多重解像度再構成処理234により出力された合成画像は、レベル2の非線形異方性拡散フィルタ処理223に入力され、レベル3と同様のフィルタリング処理がなされた後、多重解像度再構成処理224に低域画像として入力される。一方、レベル2の多重解像度分解処理221により出力された高域画像は、レベル2の高域レベル制御処理222においてレベル3と同様の高域レベル制御がなされ、レベル2の多重解像度再構成処理224に高域画像として入力される。レベル2の多重解像度再構成処理224は、レベル3と同様、1枚の低域画像と3枚の高域画像から1枚の合成画像を形成する。
レベル1の処理もレベル2の処理に準ずる。すなわち、レベル1の非線形異方性拡散フィルタ処理213、高域レベル制御処理212及び多重解像度再構成処理214によって、最終的な合成画像すなわち結果画像が得られる。
以上により、画像処理回路15の画像処理機能152により実行される非線形画像フィルタの説明を終了する。
上記の通り、非線形異方性拡散フィルタには、組織境界の方向に依存するフィルタの強さやエッジの検出度合を制御する幾つかのパラメータがあり、それらが多重解像度分解の階層分あるため、パラメータの数が多数になる傾向がある。多数のパラメータにより、画質設計者がフィルタの画質をきめ細やかに設定できるものの、フィルタの扱いに熟達していなければ所望の画質にすばやく達するのが難しい。
ただし例外的に、画像全体のフィルタの強さを調整することは、処理前後の画像の合成比率を変えることで可能であり、それにより、操作者にフィルタの強さを調整する手段を提供することはできる。しかし、それより細かい変更、例えば組織境界部のみのフィルタの強さを変えることはできない。
また非線形異方性拡散フィルタは、偏微分方程式を数値解析的に解く処理であり、強いフィルタリングで高画質な結果を得るには反復演算が必要であるが、何回も反復させると演算処理に相当な時間を要する。
本実施形態に係る画像処理回路15は、非線形画像フィルタに比して、画質を調整するパラメータ(以下、画質調整パラメータと呼ぶ)の個数を少数個に縮約し、非線形画像フィルタにより加工可能な画像特徴のうちの所望の特徴に関して微調整し、ひいては、簡易且つ迅速に所望の画質を得ることを可能にする。以下、当該処理を簡素化画像フィルタと呼ぶことにする。なお、画質調整パラメータは、派生画像に適用される係数値の一例である。
図4は、画像処理回路15による簡素化画像フィルタを模式的に示す図である。図4に示すように、画像処理回路15は、画像処理機能152の実現により、上記非線形画像フィルタとして、非線形画像フィルタ200Aを実行する。非線形画像フィルタ200Aは、図2における非線形画像フィルタ200と基本的な処理手順は同一であるが、第1派生画像D及び第2派生画像Dを得るための演算が追加されている。第1派生画像D及び第2派生画像Dは、入力画像Iinに非線形画像フィルタ200を適用することより加工される2以上の画像特徴を代表する画像であり、当該入力画像Iinに非線形画像フィルタ200を適用して生成される第1の出力画像Ioutと、非線形画像フィルタ200Aに用いるパラメータを所定値にしたときに当該入力画像Iinに非線形画像フィルタ200Aを適用して生成される第2の出力画像と、当該入力画像Iinとに基づいて生成される。当該パラメータは、画質調整パラメータとは異なり、非線形画像フィルタ200Aにおいて通常用いられるパラメータである。以下、当該パラメータをフィルタパラメータと呼ぶ。
ここで、入力画像Iinは、非線形画像フィルタ200Aに入力されるBモード画像である。非線形画像フィルタ200を適用することより加工される2以上の画像特徴は、例えば、組織境界(エッジ方向の組織境界)や組織実質部の平滑化、組織境界(エッジに直交する方向の組織境界)の強調、ノイズ又はスペックルの低減(又は平滑化)である。フィルタパラメータは、例えば、エッジの大きさ、エッジの方向、構造テンソルSの要素s11、s12及びs22、微分値I及びI、固有値μ及びμ、パラメータk、その他の非線形画像フィルタ200に用いる如何なるパラメータでもよい。
第1派生画像D及び第2派生画像Dの生成手順について具体的に説明する。画像処理回路15は、超音波画像(Bモード画像)に非線形画像フィルタ200Aを施して結果画像、すなわち、通常の出力画像Ioutを生成する。通常の出力画像Ioutを生成する際のエッジの大きさEは、図3に示したステップ303において生成される。画像処理回路15は、各派生画像を得る前に、通常の出力画像Ioutとは別に、エッジの大きさEをゼロにした場合の出力画像Iを生成する。具体的には、画像処理回路15は、上記(4)式に示すエッジの大きさE=0としたときの第1固有値μ及び第2固有値μを算出し、また、上記(5)式及び(6)式に従い係数c及びcを算出する。そして画像処理回路15は、第1固有値μ、第2固有値μ、係数c及びcに基づいて、上記(1)式に従い偏微分方程式を計算し、出力画像Iを生成する。エッジの大きさは、全レベルの非線形異方性画像フィルタ213、223、233に用いられるエッジの大きさがゼロに設定されてもよいが、少なくともレベル1の非線形異方性画像フィルタ213に用いられるエッジの大きさがゼロに設定されればよい。出力画像Iは、組織境界を考慮しない平滑化を適用した結果画像に相当する。
画像処理回路15は、下記の(7)式に従い、出力画像Iと入力画像Iinとの差分画像として第1派生画像Dを生成し、下記の(7)式に従い、出力画像Ioutと出力画像Iとの差分画像として第2派生画像Dを生成する。第1派生画像Dは、出力画像Iと入力画像Iinとの差分画像であり、平滑化のための画像成分を含む。すなわち、第1派生画像Dは、非線形画像フィルタ200Aにより加工される画像特徴である、超音波画像に含まれる組織構造等の平滑化を代表する画像であるといえる。第2派生画像Dは、出力画像Ioutと出力画像Iとの差分画像であり、組織境界の強調のための画像成分を含む。すなわち、第派生画像 は、非線形画像フィルタ200Aにより加工される画像特徴である、超音波画像に含まれる組織構造の境界の強調を代表する画像であるといえる。
上記(7)及び(8)式から、何も調整しない場合の出力画像Ioutは、下記の(9)式により表される。
非線形画像フィルタ200Aが実行されると画像処理回路15は、調整機能153の実現により、第1調整処理401及び第2調整処理402を実行する。第1調整処理401において画像処理回路15は、第1派生画像Dに画質調整パラメータαを乗じて調整後の第1派生画像αを生成する。第2調整処理402において画像処理回路15は、第2派生画像Dに画質調整パラメータαを乗じて調整後の第2派生画像αを生成する。画質調整パラメータα及びαは、0から1までの範囲内の実数である。画質調整パラメータα及びαは、互いに独立に値を調整可能である。画質調整パラメータαを調整することより、第1派生画像Dに含まれる組織構造平滑化のための画像成分の強度を調整でき、画質調整パラメータαを調整することより、第2派生画像Dに含まれる組織境界の強調のための画像成分の強度を調整できる。画質調整パラメータα及びαは、入力機器19等を介して操作者により個別に任意に調整可能である。
第1調整処理401及び第2調整処理402が実行されると画像処理回路15は、合成機能154を実行する。合成機能154において画像処理回路15は、入力画像Iin、調整後の第1派生画像α及び調整後の第2派生画像αを合成し、合成画像I´outを生成する。画像処理回路15は、合成方法として、例えば、下記の(10)式に従い、入力画像Iin、調整後の第1派生画像α及び調整後の第2派生画像αを加算して合成画像I´outを生成する。
なお、合成方法は、加算に限られず、乗算、反転の乗算その他の様々な方法により行うことが可能である。
合成画像I´outが生成されると画像処理回路15による簡素化画像フィルタが終了する。その後、画像処理回路15は、表示制御機能155を実行し、合成画像I´outを表示機器16に表示する。この際、画像処理回路15は、合成画像I´outだけでなく、入力画像Iin及び/又は第1の出力画像Ioutを並べて、重畳して又は切換可能に表示してもよい。
以上により、簡素化画像フィルタが終了する。なお、上記の簡素化画像フィルタは一例であり、これに限定されない。例えば、上記処理において派生画像は、2つの異なる非線形画像処理の差分画像であるとしたが、これに限定されず、空間的に大域的な画像範囲における画素値又は画素値の数値解析値の和が略ゼロになる画像であればよい。数値解析値としては、例えば、画素値の微分値が採用される。これに関連して、派生画像は、非線形画像処理の加算画像や乗算画像等でもよい。
上記の処理例において、第1派生画像は、エッジの大きさをゼロに設定したときの非線形画像フィルタの出力画像Iと入力画像Iinとの差分画像であるとしたが、エッジの大きさを1等の任意の値に設定したときの非線形画像フィルタの出力画像Iと入力画像Iinとの差分画像であってもよい。さらに、派生画像は、非線形画像フィルタにより加工される画像特徴を代表する画像であればよく、すなわち、出力画像Iは、エッジの大きさ以外の任意のフィルタパラメータを任意の値に設定したときの非線形画像フィルタの出力画像であればよい。フィルタパラメータの種類及び設定値を適宜選択することにより、非線形画像フィルタにより加工される任意の画像特徴を代表する任意の派生画像を生成することが可能になる。
例えば、上記の処理例において派生画像の画像特徴は、非線形異方性拡散フィルタの構造テンソルの固有値から(4)式に従い計算されたエッジ情報に依存するが、画像の空間微分又は画素置の差分に依存するものであってもよい。
上記の処理例において非線形画像フィルタ200Aは、構成要素として、非線形異方性拡散フィルタを含むものとしているが、非線形異方性拡散フィルタ以外の様々な画像フィルタを含んでもよいし、また、単一の画像フィルタを含むことに限定されず、複数の画像フィルタを含んでもよい。
非線形画像フィルタの一例である非線形画像フィルタ200Aは、図2で示したように、多重解像度解析のレベルごとに非線形異方性拡散フィルタを適用するものである。例えば、(4)式-(6)式等に示すように、非線形異方性拡散フィルタ自身、多くの画質調整のためのフィルタパラメータを有しており、さらに多重解像度解析のレベルだけフィルタパラメータ群があるため、フィルタパラメータが多数存在する。このままでは、所望の画質にすばやく達するのが難しい。
上記の通り、本実施形態によれば、非線形異方性拡散フィルタ等の非線形画像フィルタに用いられる多数のフィルタパラメータを調整するのではなく、非線形異方性拡散フィルタから派生して得られた2以上の派生画像にそれぞれ対応する2以上の画質調整パラメータを調整する。派生画像は、非線形画像フィルタにより強調又は低減される種々の画像成分を縮約した画像であるので、当該派生画像に対応する画質調整パラメータは、当該派生画像が代表する画像成分を調整するパラメータに相当する。例えば、第1派生画像Dは平滑化のための画像成分を代表するので画質調整パラメータαは主に平滑強度を調整するパラメータとして機能し、第2派生画像Dは組織境界の強調のための画像成分を代表するので画質調整パラメータαは主に組織境界の強調強度を調整するパラメータとして機能する。画質調整パラメータα及びαは、意味のあるパラメータといえる。本実施形態によれば、操作者は、ある画像成分に直接的に対応する画質調整パラメータを調整すればよいので、直感的且つ簡易に画質を調整することが可能になる。また、画質調整パラメータは少数であるので、所望の画質に容易に達することが可能になる。
以下、第1実施形態に係る種々の応用例について説明する。
(応用例1)
上記実施形態において画質調整パラメータα及びαは、操作者により入力機器19を介して設定可能であるとした。応用例1に係る画質調整パラメータα及びαは、GUI画面(以下、パラメータ設定画面と呼ぶ)を介して設定可能であるとする。パラメータ設定画面は、画像処理回路15の表示制御機能155により生成され、表示機器16に表示される。パラメータ設定画面は、入力機器19を介して操作可能に表示される。パラメータ設定画面は、表示機器16及び入力機器19が一体となって構成されるタッチパネルに表示されてもよいし、入力機器19から物理的に分離されたディスプレイ等の表示機器16に表示されてもよい。
図5は、応用例1に係るパラメータ設定画面I1の一例を示す図である。図5に示すように、パラメータ設定画面I1には、画質調整パラメータαの設定のためのスライダバーI11が表示される。スライダバーI11には画質調整パラメータαの値が割り当てられており、例えば、左端から右端にかけて、画質調整パラメータαの下限値(例えば、「0」)から上限値(例えば、「1」)が連続的に割り当てられている。スライダバーI11にはタブI12が設けられる。タブI12はスライダバーI11に沿って移動自在に設けられている。入力機器19を介してタブI12をスライダバーI11の任意位置に配置することにより、当該任意位置に対応する値に画質調整パラメータαが設定される。画質調整パラメータαの設定値は表示欄I13に表示される。図5の場合、画質調整パラメータαの設定値は「0.1」に設定されていることが分かる。画質調整パラメータαについても同様に、画質調整パラメータαの下限値から上限値が割り当てられたスライダバーI14、画質調整パラメータαの値を設定するタブI15及び画質調整パラメータαの設定値(図5の場合、「0.3」が表示される表示欄I16が表示される。
図6は、応用例1に係る他のパラメータ設定画面I2の一例を示す図である。図6に示すように、画質調整パラメータαの下限値から上限値が割り当てられたスライダバーI21、画質調整パラメータαの値を設定するタブI22及び画質調整パラメータαの設定値が表示される表示欄I23が表示される。スライダバーI21、タブI22及び表示欄I23は、それぞれ図5に示すスライダバーI11、タブI12及び表示欄I13と同様である。パラメータ設定画面I2においては、スライダバーI21、タブI22及び表示欄I23に対して、設定対象である画質調整パラメータαの説明として「平滑化」等の説明文が表示される。画質調整パラメータαについても同様に、スライダバーI24、タブI25及び表示欄I26に対して、「境界強調」等の説明文が表示される。
なお、設定対象である画質調整パラメータの説明として、テキストに限定されず、ピクトグラム等が表示されてもよい。
上記の通り、パラメータ設定画面I1及びI2においては、画質調整パラメータ毎に設定値を入力するためのスライダバー及びタブ等の入力部品(GUI部品)が設けられている。
図7は、応用例1に係る他のパラメータ設定画面I3の一例を示す図である。図7に示すように、パラメータ設定画面I3は、画質調整パラメータα及びαの双方の設定値を単一操作で設定するための入力部品(GUI部品)I31が表示される。当該入力部品I31を設定フィールドと呼ぶことにする。設定フィールドI31は、画質調整パラメータの個数に対応する次元数の座標空間を有するGUI部品である。本実施形態においては、画質調整パラメータの個数は「2」であるので、設定フィールドI31は2次元座標空間である。具体的には、設定フィールドI31には、横軸が画質調整パラメータαに規定され、縦軸が画質調整パラメータαに規定され、各座標に画質調整パラメータαの値と画質調整パラメータαの値との組合せが割り当てられている。横軸には左端から右端にかけて下限値(例えば、「0」)から上限値(例えば、「1」)が連続的に割り当てられ、縦軸には上端から下端にかけて下限値(例えば、「0」)から上限値(例えば、「1」)が連続的に割り当てられている。設定フィールドI31にはタブI32が移動自在に設けられている。入力機器19を介してタブI32を設定フィールドI31の任意位置に配置することにより、当該任意位置に対応する値に画質調整パラメータαと画質調整パラメータαとが設定される。画質調整パラメータαの設定値(図7の例では、「0.8」)は表示欄I33に、画質調整パラメータαの設定値(図7の例では、「0.3」)は表示欄I34に表示される。
上記の通り、応用例1によれば、GUI画面を利用して画質調整パラメータを設定可能である。GUI画面を利用することにより操作者は直感的且つ容易に画質調整パラメータを設定することが可能である。
なお、応用例1において各パラメータ設定画面I1、I2及びI3の各GUI部品I11-I16、I21-I26、I31-I34は、入力機器19に設けられる機械部品であってもよい。これら機械部品は、例えば、超音波診断システム1の装置本体に設けられる操作パネルに実装されるとよい。
(応用例2)
上記実施形態において画質調整パラメータは派生画像を構成する全画素に対して一定の値を有することを前提とした。超音波は生体の減衰の影響が大きく、周波数依存減衰があるため、超音波画像中の浅い部分と深い部分とでは画質が大きく異なる。また、超音波プローブ11によっては扇状に広がる画像生成をしており、深い部分では走査線密度が粗くなる分、画質も粗くなるため、浅い部分と深い部分とに画像処理の影響の仕方に差が発生する。そのため、浅い部分に適した画像処理の設定とすると深い部分に対する画像処理が強くかかり過ぎる一方で、深い部分に適した設定とすると、近い部分に対する画像処理が弱すぎてしまう。このように画像全体に一定値の画質調整パラメータを設定しても、非線形異方性拡散フィルタ等の非線形画像フィルタの効果を画像全体に均一に得ることができない場合がある。
応用例2に係る画質調整パラメータは派生画像内の空間位置に応じた値を有するものとする。応用例2に係る画像処理回路15は、調整機能153において、派生画像の空間位置に応じて画質調整パラメータの値を設定する。例えば、画像処理回路15は、画質調整パラメータα及びα各々について、派生画像内の空間位置に依存する当該画質調整パラメータの調整率を規定する関数を記憶する。調整率は、画質調整パラメータの基準値からのズレ量又は基準率に対する比率等に規定されればよい。基準値は、応用例1に係る図5-図7等のパラメータ設定画面を介して設定されればよい。
調整率は、異なる空間位置同士の周波数依存減衰や走査線密度の差を補正するものである。周波数依存減衰や走査線密度の影響は、超音波の音響スキャン方向より、音響ライン方向(深さ方向)により強く表れるため、図8に示すように、画質調整パラメータα及びαは、深さ位置のみに依存するようにしてもよい。例えば、深い位置にある画素ほど画質調整パラメータα及びαが大きくなるように設定されるとよい。
画像処理回路15は、第1派生画像Dの各画素の画素値について、当該画素の空間位置を特定し、当該画素の画素値及び空間位置を当該関数に適用して当該画素の画質調整パラメータαの調整率を算出する。そして画像処理回路15は、算出された調整率を基準値に乗じることにより当該画素の画質調整パラメータαの値を算出し、算出された画質調整パラメータαの値を当該画素の画素値に適用して調整後の画素値を算出する。これを第1派生画像Dの全画素に行うことにより調整後第1派生画像を生成することが可能である。第2派生画像Dについても同様である。なお、調整率は、同一空間位置について、画質調整パラメータαと画質調整パラメータαとで異なる値に設定されてもよいし、同一値に設定されてもよい。
なお、画像処理回路15は、関数ではなく、空間位置と画質調整パラメータの調整率とを関連付けたルックアップテーブル(LUT)を記憶してもよい。この場合、画像処理回路15は、派生画像の各画素にLUTを適用して画質調整パラメータの調整率を特定し、特定された調整率を基準値にじることにより当該画素の画質調整パラメータの値を算出し、算出された画質調整パラメータの値を当該画素の画素値に適用して調整後の画素値を算出すればよい。
応用例2によれば、派生画像の空間位置に応じて画質調整パラメータの値を変更することが可能である。これにより、非線形異方性拡散フィルタ等の非線形画像フィルタの効果を画像全体で均一に得ることが可能になる。
(応用例3)
上記の実施形態においては、派生画像は2枚であり、これに伴い画質調整パラメータは2種類であるとした。応用例3において派生画像の枚数及び画質調整パラメータの種類数は、一般化して「n」であるとする。「n」は2以上の整数である。
図9は、応用例3に係る簡素化画像フィルタを模式的に示す図である。図9に示すように、画像処理回路15は、画像処理機能152の実現により、非線形画像フィルタとして、非線形画像フィルタ200Bを実行する。非線形画像フィルタ200Bは、図4における非線形画像フィルタ200Aと同様であるが、生成する派生画像の枚数が「n」である点が異なる。
非線形画像フィルタ200Bが実行されると画像処理回路15は、調整機能153の実現により、調整処理501を実行する。調整処理501において画像処理回路15は、第k(kは派生画像のインデックス。1≦k≦n)派生画像Dに画質調整パラメータαを乗じて調整後の第k派生画像αを生成する。画質調整パラメータαは、0から1までの範囲内の実数である。画質調整パラメータαは、互いに独立に値を調整可能である。画質調整パラメータαは、入力機器19等を介して操作者により個別に任意に調整可能である。例えば、エッジの大きさを「0」に設定したときの出力画像I、エッジの大きさを「1」に設定したときの出力画像Iを算出し、入力画像Iinと出力画像Iとに基づく第1派生画像、出力画像Iと出力画像Ioutとに基づく第2派生画像、入力画像Iinと出力画像Iとに基づく第3派生画像、出力画像Iと出力画像Ioutとに基づく第4派生画像を生成することが可能である。また、他のフィルタパラメータをゼロ又は所定値に設定したときの出力画像と入力画像Iinとに基づいて派生画像を生成することが可能であるし、当該他のフィルタパラメータをゼロ又は所定値に設定したときの出力画像と出力画像Ioutとに基づいて派生画像を生成することも可能である。
調整処理501が行われると、画像処理回路15は、合成機能154の実現により、合成処理502を実行する。合成処理502において画像処理回路15は、入力画像Iinと調整後の第k派生画像αを合成し、合成画像I´outを生成する。画像処理回路15は、合成方法として、例えば、下記の(11)式に従い、入力画像Iin、調整後の第k派生画像αを加算して合成画像I´outを生成する。合成画像I´outは、表示機器16により表示される。
なお、応用例3においても、合成方法は加算のみに限定されず、乗算でもよいし、反転の乗算その他の様々な方法により行うことが可能である。
応用例3によれば、3以上の派生画像に基づく合成画像I´outを生成することが可能である。これにより、合成画像I´outの画質をより詳細に調整することが可能である。
(第2実施形態)
第1実施形態においては、派生画像を得るため出力画像Ioutを得るために非線形画像フィルタを計算する必要がある。非線形画像フィルタの計算は、複雑で時間を要し、特に強い処理を得るために非線形異方性拡散フィルタの繰り返し演算の回数を増やすとそれだけ処理時間が延びてしまう。
この問題を解決する方法として、非線形画像フィルタの入出力画像の組を学習データとし、未知の入力画像に対し、前記学習データに基づいて作られた機械学習モデルに従って出力画像を推論してその結果を出力する方法に置換する方法が考えられる。しかし、このような機械学習による方法では、処理前後の画像の合成比率を変えて画像全体のフィルタの強さを調整すること以外に画質を調整することができない。
第2実施形態に係る超音波診断システム1は、派生画像を出力する機械学習モデルを用いる。以下、第2実施形態に係る超音波診断システム1について説明する。なお以下の説明において、第1実施形態と略同一の機能を有する構成要素については、同一符号を付し、必要な場合にのみ重複説明する。
なお、第2実施形態に係る機械学習モデルは、2層以上のニューラルネットワークが用いられる。ニューラルネットワークのアーキテクチャは、画像を入力して画像を出力できるのであれば、如何なるタイプでもよいが、一例として、CNN(Convolutional neural network)やその発展型が用いられるとよい。
図10は、第2実施形態に係る簡素化画像フィルタを模式的に示す図である。図10に示すように、簡素化画像フィルタは、学習段階と実装段階とに分けられる。学習段階において画像処理回路15は、複数の学習サンプルに基づいて未学習のニューラルネットワーク601を学習して学習済ニューラルネットワーク602を生成する。学習サンプルは、入力データである学習用入力画像IinLと教師データである学習用派生画像D1L及びD2Lとのセットである。学習用派生画像は、第1実施形態に係る第1派生画像D1Lと第2派生画像D2Lとの組合せである。学習用入力画像IinLと学習用派生画像D1L及びD2Lとは、如何なる形式でニューラルネットワーク601に入出力されてもよいが、例えば、画素数分の要素数を有する多次元ベクトルとして入出力されればよい。各要素は、当該要素に対応する画素の画素値を要素値として有する。この場合、出力に関しては、学習用派生画像D1L及びD2Lの合計の画素数分の要素数を有する多次元ベクトルとして扱われればよい。学習用派生画像D1L及びD2Lは、任意の学習用入力画像IinLに、第1実施形態の簡素化画像フィルタを施すことにより生成されればよい。
学習方法は特に限定されない。例えば、画像処理回路15は、学習用入力画像IinLを入力して、第1派生画像D1Lと第2派生画像D2Lとを出力するように、教師付き学習によりニューラルネットワーク601の学習可能パラメータを決定する。なお、学習可能パラメータは、重みパラメータやバイアス等を含む。
より詳細には、画像処理回路15は、学習用入力画像Iinにニューラルネットワーク601を適用して順伝播処理を行い、第1推測派生画像と第2推測派生画像とを出力する。次に画像処理回路15は、第1推測派生画像及び第2推測派生画像と、第1派生画像D1L及び第2派生画像D2Lとの差分(誤差)をニューラルネットワーク601に適用して逆伝播処理を行い、学習可能パラメータの関数である誤差関数の微分係数である勾配ベクトルを計算する。次に画像処理回路15は、勾配ベクトルに基づいて学習可能パラメータを更新する。これら順伝播処理、逆伝播処理及びパラメータ更新処理を、学習サンプルを変更しながら繰り返し、誤差関数を最小化する学習可能パラメータを所定の最適化法に従い決定する。これにより学習済ニューラルネットワーク602が生成される。学習済ニューラルネットワーク602は、記憶装置17に記憶される。学習済ニューラルネットワーク602は、非線形画像フィルタ200Aの置き換えとして、超音波診断システム1へ実装される。
実装段階において画像処理回路15は、学習済ニューラルネットワーク602に未知の入力画像Iinを適用して、派生画像列(D,D)を推測する。その後、画像処理回路15は、第1実施形態と同様、調整処理401により、第1派生画像Dに画質調整パラメータαを適用して調整後の第1派生画像αを生成し、調整処理402により、第2派生画像Dに画質調整パラメータαを適用して調整後の第2派生画像αを生成する。そして画像処理回路15は、例えば、上記の(10)式に従い、入力画像Iin、調整後の第1派生画像α及び調整後の第2派生画像αを加算して合成画像I´outを生成する。合成画像I´outは、表示機器16に表示される。
以上により、第2実施形態に係る簡素化画像フィルタが終了する。
なお、上記の説明において派生画像の枚数は2枚であるとしたが、第1実施形態の応用例3と同様、n枚に拡張することが可能である。この場合、学習段階において、図10の非線形画像フィルタ200Aの代わりに、図9の非線形画像フィルタ200Bが実行されればよい。また、第2実施形態においても、第1実施形態の応用例1-3を組合せ可能である。
第2実施形態によれば、実装段階において、非線形画像フィルタを実行することなく、学習済ニューラルネットワークを利用して入力画像から直接的に派生画像を得ることができる。これにより、非線形画像フィルタを実行する第1実施形態に比して、簡素化画像フィルタの処理時間及び計算負荷を低減することが可能になる。
以上説明した少なくとも1つの実施形態によれば、超音波診断に係る画像処理における画質調整を簡素化することができる。
上記説明において用いた「プロセッサ」という文言は、例えば、CPU、GPU、或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC))、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサは記憶回路に保存されたプログラムを読み出し実行することで機能を実現する。なお、記憶回路にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、プログラムを実行するのではなく、論理回路の組合せにより当該プログラムに対応する機能を実現しても良い。なお、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて1つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、図1における複数の構成要素を1つのプロセッサへ統合してその機能を実現するようにしてもよい。
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 超音波診断システム
11 超音波プローブ
12 送受信回路
13 Bモード処理回路
14 ドプラ処理回路
15 画像処理回路
16 表示機器
17 記憶装置
18 制御回路
19 入力機器
200、200A、200B 非線形画像フィルタ

Claims (13)

  1. 超音波画像を入力して、平滑化のための画像成分を含む画像と組織構造の強調のための画像成分を含む画像とを出力するように学習されたニューラルネットワークである学習済みモデルを、被検体に関する対象の超音波画像に適用することにより、平滑化のための第1の画像成分を含む第1の派生画像と組織構造の強調のための第2の画像成分を含む第2の派生画像とを生成する画像処理部と、
    前記第1の派生画像に平滑強度を調整するための可変の第1の調整パラメータ値を適用して第1の調整後派生画像を生成し、前記第2の派生画像に組織境界の強調強度を調整するための可変の第2の調整パラメータ値を適用して第2の調整後派生画像を生成する調整部と、
    前記対象の超音波画像と前記第1の調整後派生画像と前記第2の調整後派生画像とを合成して合成画像を生成する合成部と、
    を具備する超音波診断システム。
  2. 前記平滑化のための画像成分を含む画像と前記組織構造の強調のための画像成分を含む画像とは、前記超音波画像と、非線形画像処理により生成された第1の出力画像と第2の出力画像とに基づいて生成され、
    前記非線形画像処理は、多重解像度分解/再構成の少なくとも一の階層において実行され、組織の平滑化と組織境界の強調とに関するフィルタパラメータを有する画像フィルタを含み、
    前記第1の出力画像は、前記非線形画像処理において前記超音波画像に基づき算出した前記フィルタパラメータが設定された前記画像フィルタを前記超音波画像に適用して生成され、
    前記第2の出力画像は、前記フィルタパラメータが任意値に設定された前記画像フィルタを前記超音波画像に適用して生成され、
    前記平滑化のための画像成分を含む画像は、前記超音波画像と前記第2の出力画像との差分画像であり、
    前記組織構造の強調のための画像成分を含む画像は、前記第1の出力画像と前記第2の出力画像との差分画像である、
    請求項1記載の超音波診断システム。
  3. 前記画像フィルタは、拡散方程式を用いた非線形画像フィルタを含む、請求項2記載の超音波診断システム。
  4. 前記フィルタパラメータは、組織のエッジの大きさであり、
    前記第1の出力画像は、前記エッジの大きさが前記超音波画像の構造テンソルの固有値及び固有ベクトルに基づき算出されたときの前記非線形画像処理の出力画像であり、
    前記第2の出力画像は、前記エッジの大きさゼロに設定したときの前記非線形画像処理の出力画像である、
    請求項3記載の超音波診断システム。
  5. 前記第1の調整パラメータ値と前記第2の調整パラメータ値とを入力するための入力部、を更に備える請求項1記載の超音波診断システム。
  6. 前記入力部は、前記第1の調整パラメータ値と前記第2の調整パラメータ値との各々について、当該調整パラメータ値を入力する入力部品を有する、請求項記載の超音波診断システム。
  7. 前記入力部は、前記第1の派生画像と前記第2の派生画像との画像数に対応する2次元の座標空間を有する入力部品を有し、前記座標空間の第1軸に前記第1の調整パラメータ値が、第2軸に前記第2の調整パラメータ値が割り当てられている、請求項記載の超音波診断システム。
  8. 前記入力部は、GUI部品である前記入力部品を表示する表示機器を有し、
    前記表示機器は、前記入力部品各々に対応する調整パラメータ値を説明するためのテキスト又はピクトグラムを表示する、
    請求項記載の超音波診断システム。
  9. 前記入力部品は、GUI部品又は機械部品である、請求項又は記載の超音波診断システム。
  10. 前記第1の調整パラメータ値は、前記第1の派生像の空間的位置に応じて異なる値を有し、
    前記第2の調整パラメータ値は、前記第2の派生画像の空間的位置に応じて異なる値をする、
    請求項1記載の超音波診断システム。
  11. 前記第1の調整パラメータ値は、前記第1の派生像の深さ位置に応じて異なる値を有し、
    前記第2の調整パラメータ値は、前記第2の派生画像の深さ位置に応じて異なる値を有する、
    請求項10記載の超音波診断システム。
  12. 前記被検体に超音波を送波し、前記被検体からの反射波を受波し、前記反射波に応じたエコー信号を出力する超音波プローブと、
    前記エコー信号を受信指向性に応じた反射波データに変換する変換部と、
    前記反射波データに基づいてBモード情報を生成するBモード処理部と、
    前記Bモード情報に基づいて前記対象の超音波画像を生成する画像生成部と、を更に備える、
    請求項1記載の超音波診断システム。
  13. 超音波画像を入力して、平滑化のための画像成分を含む画像と組織構造の強調のための画像成分を含む画像とを出力するように学習されたニューラルネットワークである学習済みモデルを、被検体に関する対象の超音波画像に適用することにより、平滑化のための第1の画像成分を含む第1の派生画像と組織構造の強調のための第2の画像成分を含む第2の派生画像とを生成する画像処理工程と、
    前記第1の派生画像に平滑強度を調整するための可変の第1の調整パラメータ値を適用して第1の調整後派生画像を生成し、前記第2の派生画像に組織境界の強調強度を調整するための可変の第2の調整パラメータ値を適用して第2の調整後派生画像を生成する調整工程と、
    前記対象の超音波画像と前記第1の調整後派生画像と前記第2の調整後派生画像とを合成して合成画像を生成する合成工程と、
    を具備する超音波画像処理方法。
JP2020206013A 2020-12-11 2020-12-11 超音波診断システム及び超音波画像処理方法 Active JP7650651B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020206013A JP7650651B2 (ja) 2020-12-11 2020-12-11 超音波診断システム及び超音波画像処理方法
US17/643,461 US20220188998A1 (en) 2020-12-11 2021-12-09 Ultrasonic diagnostic system and ultrasound image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020206013A JP7650651B2 (ja) 2020-12-11 2020-12-11 超音波診断システム及び超音波画像処理方法

Publications (2)

Publication Number Publication Date
JP2022092981A JP2022092981A (ja) 2022-06-23
JP7650651B2 true JP7650651B2 (ja) 2025-03-25

Family

ID=81941562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020206013A Active JP7650651B2 (ja) 2020-12-11 2020-12-11 超音波診断システム及び超音波画像処理方法

Country Status (2)

Country Link
US (1) US20220188998A1 (ja)
JP (1) JP7650651B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116612143A (zh) * 2023-05-26 2023-08-18 中国银行股份有限公司 图像边缘检测方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090171208A1 (en) 2007-12-27 2009-07-02 Ryota Osumi Ultrasonic diagnostic apparatus, ultrasonic image processing apparatus, and ultrasonic image processing method
JP2010082198A (ja) 2008-09-30 2010-04-15 Fujifilm Corp 超音波信号処理装置および方法
WO2012101989A1 (ja) 2011-01-26 2012-08-02 株式会社日立メディコ 超音波診断装置および画像処理方法
JP2015100539A (ja) 2013-11-26 2015-06-04 日立アロカメディカル株式会社 超音波診断装置
JP2018089371A (ja) 2016-11-30 2018-06-14 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
WO2020078889A1 (en) 2018-10-15 2020-04-23 Koninklijke Philips N.V. Systems and methods for guiding the acquisition of an ultrasound image

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7593603B1 (en) * 2004-11-30 2009-09-22 Adobe Systems Incorporated Multi-behavior image correction tool
WO2018086000A1 (en) * 2016-11-09 2018-05-17 Edan Instruments, Inc. Systems and methods for ultrasound imaging
US11730444B2 (en) * 2017-06-30 2023-08-22 Canon Medical Systems Corporation Image processing apparatus and ultrasound diagnosis apparatus
US10853977B2 (en) * 2017-08-30 2020-12-01 Korea Advanced Institute Of Science And Technology Apparatus and method for reconstructing image using extended neural network
CN107767343B (zh) * 2017-11-09 2021-08-31 京东方科技集团股份有限公司 图像处理方法、处理装置和处理设备
JP7302988B2 (ja) * 2019-03-07 2023-07-04 富士フイルムヘルスケア株式会社 医用撮像装置、医用画像処理装置、及び、医用画像処理プログラム
US11195172B2 (en) * 2019-07-24 2021-12-07 Capital One Services, Llc Training a neural network model for recognizing handwritten signatures based on different cursive fonts and transformations

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090171208A1 (en) 2007-12-27 2009-07-02 Ryota Osumi Ultrasonic diagnostic apparatus, ultrasonic image processing apparatus, and ultrasonic image processing method
JP2009153918A (ja) 2007-12-27 2009-07-16 Toshiba Corp 超音波診断装置、超音波画像処理装置、超音波画像処理プログラム
JP2010082198A (ja) 2008-09-30 2010-04-15 Fujifilm Corp 超音波信号処理装置および方法
WO2012101989A1 (ja) 2011-01-26 2012-08-02 株式会社日立メディコ 超音波診断装置および画像処理方法
JP2015100539A (ja) 2013-11-26 2015-06-04 日立アロカメディカル株式会社 超音波診断装置
US20160324505A1 (en) 2013-11-26 2016-11-10 Hitachi, Ltd. Ultrasonic diagnostic device
JP2018089371A (ja) 2016-11-30 2018-06-14 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
WO2020078889A1 (en) 2018-10-15 2020-04-23 Koninklijke Philips N.V. Systems and methods for guiding the acquisition of an ultrasound image
JP2021530334A (ja) 2018-10-15 2021-11-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 超音波画像の取得をガイドするためのシステム及び方法

Also Published As

Publication number Publication date
US20220188998A1 (en) 2022-06-16
JP2022092981A (ja) 2022-06-23

Similar Documents

Publication Publication Date Title
JP5449852B2 (ja) 超音波診断装置
CN102370498B (zh) 超声波诊断装置及超声波图像处理装置
EP3987445B1 (en) Method and system for generating a synthetic elastrography image
JP5049773B2 (ja) 超音波診断装置、超音波画像処理装置、超音波画像処理プログラム
JP5773781B2 (ja) 超音波診断装置、画像処理装置及びプログラム
Morin et al. Semi-blind deconvolution for resolution enhancement in ultrasound imaging
JP6911710B2 (ja) 超音波診断装置、超音波画像生成方法及びプログラム
Shin et al. Sensitivity to point-spread function parameters in medical ultrasound image deconvolution
JP2020523143A (ja) 超音波画像を処理するための方法及びシステム
EP4078511B1 (en) Generating a segmentation confidence map from node variations in a plurality of differently perturbed, model-based anatomical image segmentations
CN116831626A (zh) 超声波束合成方法及设备
JP7650651B2 (ja) 超音波診断システム及び超音波画像処理方法
JP6879041B2 (ja) 超音波診断装置及び超音波画像生成方法
CN110869799B (zh) 用于处理超声图像的方法和系统
JP7614030B2 (ja) 超音波診断装置、医用画像処理装置および医用画像処理プログラム
Nguyen et al. Improvements to ultrasonic beamformer design and implementation derived from the task-based analytical framework
Zhang et al. Ultrasound Plane Wave Imaging as an Inverse Problem With Joint Sparse‐Based Regularized Solution
Govor Ultrasound Image Enhancement via Deconvolution
JP2023084300A (ja) 超音波診断装置、超音波診断装置の制御方法、及び、超音波診断装置の制御プログラム
CN118266997A (zh) 电子4d(e4d)心血管超声(cvus)探头的超分辨率
WO2022115382A1 (en) Deep learning techniques for elasticity imaging
Khodadadi Ultrasound elastography: Direct strain estimation
Basarab et al. To link to this article: DOI: 10.1109/ICIP. 2013.6738290

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20230106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231027

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250312

R150 Certificate of patent or registration of utility model

Ref document number: 7650651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150