Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7680728B2 - 医用画像処理装置、医用画像処理方法および医用画像処理プログラム - Google Patents
[go: Go Back, main page]

JP7680728B2 - 医用画像処理装置、医用画像処理方法および医用画像処理プログラム - Google Patents

医用画像処理装置、医用画像処理方法および医用画像処理プログラム Download PDF

Info

Publication number
JP7680728B2
JP7680728B2 JP2020034103A JP2020034103A JP7680728B2 JP 7680728 B2 JP7680728 B2 JP 7680728B2 JP 2020034103 A JP2020034103 A JP 2020034103A JP 2020034103 A JP2020034103 A JP 2020034103A JP 7680728 B2 JP7680728 B2 JP 7680728B2
Authority
JP
Japan
Prior art keywords
image
anatomical model
image processing
medical
medical image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020034103A
Other languages
English (en)
Other versions
JP2021133170A (ja
Inventor
金吾 七戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nemoto Kyorindo Co Ltd
Original Assignee
Nemoto Kyorindo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nemoto Kyorindo Co Ltd filed Critical Nemoto Kyorindo Co Ltd
Priority to JP2020034103A priority Critical patent/JP7680728B2/ja
Publication of JP2021133170A publication Critical patent/JP2021133170A/ja
Priority to JP2024101699A priority patent/JP2024123195A/ja
Application granted granted Critical
Publication of JP7680728B2 publication Critical patent/JP7680728B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Endoscopes (AREA)
  • Surgical Instruments (AREA)

Description

本発明は、医用画像処理装置、医用画像処理方法および医用画像処理プログラムに関し、特には、被検者の患部画像を医用光学撮像デバイスで撮像しながら手術を行う際にその患部画像に3D解剖学的モデルを合成して表示可能な構成において、表示されている対象物を操作する際の操作性を向上させた医用画像処理装置、医用画像処理方法および医用画像処理プログラムに関する。
腹腔鏡手術は、例えば被検者の臍部周囲から内視鏡を腹腔内に挿入し、モニタに映し出された画像に基づいて腹腔内で手術を行う術式である。具体的には、皮膚を小さく切開して鉗子類を腹腔内に挿入し、手術が行なわれる。
特許文献1には、立体視内視鏡を用いて患部画像を3Dモニタに表示しつつ、被検者の腹部内に鉗子等を挿入して処置を行う術式の例が開示されている。3Dモニタとしては1つでも複数でもよく、観察者は3D観賞用メガネを装着してモニタの観察を行う。また、特許文献2には、仮想的な解剖学的モデルのボリュームに、超音波画像のような他の医用画像が重畳表示される技術が開示されている。
WO2015/053043号 特表2019-517291号
近年、術中に被検者の3D解剖学的モデルを参照しながら手術を行うことも実用化されてきており、立体的な患部画像と一緒に3D解剖学的モデルをモニタ上に写し出して手術を行うことも行われている。
このように3D解剖学的モデルを実際の被検者の患部画像と対比しながら術中に確認できることは高信頼な手術の提供等の観点から望ましいが、術中に3D解剖学的モデルを操作する際の操作性や使い易さの点で改善の余地が残されている。
そこで本発明の目的は、被検者の患部を医用光学撮像デバイスで撮像しながら手術を行う際にその患部画像に3D解剖学的モデルを合成して表示可能な構成において、表示されている対象物を操作する際の操作性を向上させた医用画像処理装置、医用画像処理方法および医用画像処理プログラムを提供することにある。
上記課題を解決するための本発明の一形態の医用画像処理装置は次のとおりである:
画像表示制御部を備える医用画像処理装置であって、
上記画像表示制御部は、
被検者の解剖学的構造体を立体的に表した3D解剖学的モデルを読み込む処理と、
上記3D解剖学的モデルの像の位置(結像位置:一例で三次元空間内の奥行方向における位置)が変更された場合に、変更後の位置に合わせて、当該3D解剖学的モデルの回転軸の位置も変更する処理を行うように構成されている、
医用画像処理装置。
(用語の説明)
・「医用光学撮像デバイス」とは、例えば腹腔鏡手術で使用される内視鏡装置や、開頭手術で使用される、高精細カメラを有する撮像システム等のことをいう。
・「制御部」とは、例えば、演算処理を行うCPU(Central Processing Unit)とメモリとインターフェース等を有し、メモリ内に格納されたコンピュータプログラムを実行することで様々な機能を実現するコンピュータユニットであってもよい。一例で、コンピュータユニットは、CPU、ROM、RAM、およびI/F等のハードウェアを有しプログラムが実装されたいわゆるワンチップマイコンであってもよい。
・「コンピュータプログラム」に関し、その実施主体は単数であってもよいし複数であってもよい。コンピュータプログラムは、コンピュータ読み取り可能な記録媒体に記憶させてもよい。コンピュータプログラムを記憶した記録媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は特に限定されず、例えば、メモリーカード、CD-ROM等の記録媒体であってもよい。記録媒体に記憶されたコンピュータプログラムは、適宜のリーダーを介してコンピュータユニットに実装することができる。適宜のリーダーとは、例えば、記録媒体がメモリーカードである場合はカードリーダ、記録媒体がCD-ROMである場合はCDドライブ、などが挙げられる。
・「部(「セクション」、「ユニット」または「モジュール」等としても表現できる)」に関し、本明細書で例えば「(機能の名称)」+「部」で表わされるものは、コンピュータの機能として実現可能なものである。このような「部」は、システムにおけるいずれの機器に備わっていてもよい。また、必ずしも1つの機器内に備わっている必要はなく、相当する機能が2つ以上の機器に分散して備えられていてもよい。さらに、通信ネットワーク(例えばインターネット)を介して、所定の1つまたは複数の「部」のみが外部の機器に備えられていてもよい。このような「部」は、コンピュータが論理的に有する各種の機能であってもよい。
本発明によれば、被検者の患部画像を医用光学撮像デバイスで撮像しながら手術を行う際にその患部画像に3D解剖学的モデルを合成して表示可能な構成において、表示されている対象物を操作する際の操作性を向上させた医用画像処理装置等を提供することができる。
本発明の一形態の医用画像処理装置の構成を模式的に示すブロック図である。 3D解剖学的モデルのオブジェクトの関係を示す模式図である。 本発明の一形態の医用画像処理装置を含むシステム構成の一例である。 本発明の一形態の医用画像処理装置を含むシステム構成の別の例である。 内視鏡画像と3D解剖学的モデルとを合成表示した画像の例である。 医用光学撮像デバイスの特性に応じて3D解剖学的モデルの表示態様を調整するためのフローチャートである。 テストチャートを内視鏡で撮像している状態を示す模式図である。 内視鏡画像と3D解剖学的モデルの結像位置との関係を示す模式図である。 3D解剖学的モデルの結像位置とモデルの回転軸との関係を説明するための図である。 グラフィカルユーザインターフェースの一例である。 本発明の一形態の医用画像処理装置が出力する画像フォーマットの一例を示す図である。
以下、図面を参照しながら本発明の実施の形態について説明する。
図1に示すように、本実施形態の医用画像処理システム1は、画像表示制御部11と、データ格納部12と、表示デバイス13と、入力デバイス14とを備えている。また、データ入出力インターフェース15、医用情報管理装置21、薬液注入装置22、および、撮像装置23をさらに有していてもよい。本発明の一形態において、図1の符号10で示した範囲が医用画像処理装置として構成されていてもよく、医用画像処理装置10は、画像表示制御部11、データ格納部12、表示デバイス13、入力デバイス14およびデータ入出力インターフェース15を有するコンピュータ装置であってもよい。より具体的には、それらを1つの筐体に収め、表示デバイス13および入力デバイス14としてタッチパネルを備えた可搬型の端末(例えばタブレット端末)であってもよい。
なお、この例では医用画像処理装置10が医用情報管理装置21等に対して接続された構成となっているが、後述するように内視鏡装置等と接続する構成であってもよい。
画像表示制御部11は、医療用の三次元画像(「3D解剖学的モデル」、「3Dモデル」などとも言う)をはじめとする種々の画像表示に関する制御を行うものであり、データ格納部12は各種データを保存する部分である。表示デバイス13は、液晶ディスプレイまたは有機ELディスプレイなど、画像表示制御部11で作成された画像を表示できる任意のディスプレイであってよい。なお、本実施形態では、1つの医用画像処理装置10の機能としてその表示デバイス13に3D解剖学的モデル等の画像が表示される例について説明するが、本発明は必ずしもそれに限定されるものはなく、次のようなものであってもよい。すなわち、医用画像処理装置10は単に所定の画像処理を行ったり画像データを出力したりするのみであり、他の機器(例えばミキサー(詳細後述))が画像の合成を行う構成としてもよい。
入力デバイス14は、例えば、キーボードやマウス(3Dマウスを含む)など、操作者による入力操作を受け付け、画像表示制御部11にデータを入力できる任意のデバイスであってよい。ディスプレイとタッチスクリーンとを組み合わせたタッチパネルを表示デバイス13および入力デバイス14として用いることもできる。
入力デバイス14としては、さらに、非接触で入力を行うことのできる非接触入力ユニットを組み合わせることもできる。非接触入力ユニットは、ジェスチャ認識技術を利用したものと音声認識技術を利用したものに分けることができる。ジェスチャ認識技術を利用した非接触入力ユニットの一例として、「Leapセンサ」(Leap Motion社製)が挙げられる。「Leapセンサ」は、操作者の指の動き等を非接触で認識できる入力デバイスであり、赤外線照射部と、赤外線カメラ等を有する。同センサは、赤外線照射部から照射された赤外線が操作者の手に当たったときの反射光を赤外線カメラで撮影し、画像解析を行う機能を有する。これにより、三次元空間内での操作者の手および指の位置、動作および形状等をリアルタイムで検出することが可能となっている。ジェスチャ認識技術を利用した非接触入力ユニットの他の例として、「リアルセンス」(インテル社製)が挙げられる。「リアルセンス」は、RGBカメラおよび赤外線カメラから構成された3Dカメラ、赤外線センサ等をモジュール化したものである。色情報の他に奥行情報を取得でき、操作者の指等の動作を三次元で認識可能である。本形態では、Leapセンサおよびリアルセンスのいずれも利用可能である。いずれにおいても、入力のための操作者の動作は、タッチパネル上での操作者の動作(例えば、タップ、ダブルタップ、スワイプ、フリック、ピンチイン、ピンチアウトなど)と同じ動作に加え、奥行方向の動作も利用可能である。
音声認識技術を利用した非接触入力ユニットの例として、音声認識ユニットを挙げることができる。音声認識ユニットは、操作者が発生した音声を取得するマイクロフォンと、マイクロフォンが取得した音声を認識して操作用信号に変換する音声認識装置とを有するものであってもよい。音声認識装置の設置場所は任意であってよいが、マイクロフォンは操作者の近くに設置することが好ましい。
なお、本出願において、機器への任意の入力は、本発明の趣旨を逸脱しない範囲において上述したような各種の入力手段を用いることができる。
データ格納部12は、HDD(Hard Disc Drive)、SSD(Solid State Drive)および各種メモリの少なくとも一種を含むことができる。データ格納部12には、被検者の体を撮像して得たデータに基づいて作成された3D解剖学的モデルのデータ等が格納される。データ格納部12には、他に、画像表示制御部11が行う処理に必要な少なくとも1つのプログラム、グラフィカルユーザインターフェースのデータ、テーブル等が格納されていてもよい。データ格納部12に格納されるデータの一部は、データ入出力インターフェース15を通じて医用情報管理装置21から取得することもできる。
医用情報管理装置21としては、PACS(picture Archiving and CommunicationSystems)、RIS(Radiology Information System)およびHIS(Hospital Information System)等の1つまたは複数が挙げられる。医用情報管理装置21は、一例で、薬液注入装置22によって薬液(例えば造影剤)が注入され、撮像装置23によって撮像された被検者の医用画像データを管理する。
薬液注入装置22としては、シリンジや薬液バッグ等に充填された造影剤等の薬液を、予め設定された注入条件に従って自動的に被検者に注入する任意の注入装置を用いることができる。一例として、1本または複数本のシリンジを装着可能な注入ヘッドとそれに電気的に接続されたコンソールとを備える薬液注入装置であってもよい。
撮像装置23は、CT(Computed Tomography)装置、MRI(MaganeticResonance Imaging)装置、アンギオグラフィ装置(血管造影装置)、PET(Positoron Emission Tomography)装置、超音波診断装置等、画像データで構成された医用画像を撮像することのできる任意の装置であってよい。データ格納部12に格納されるデータは、撮像装置23から直接取得することもできる。
解剖学的構造体のボリュームデータに関し、このデータは、撮像装置23によって被検者に対して特定の方向(例えば、体軸方向、左右方向、前後方向、これらの少なくとも1つに対して傾斜した方向など)に一定の間隔(例えば1mm間隔)で連続的に撮影された複数(例えば300)のスライス画像データを体軸方向に配列して得られるデータセットに基づくものであってもよい。ボリュームデータは複数のボクセルを含み、各ボクセルのボクセル値に基づく所定の処理により、複数の解剖学的構造を抽出することができる。各ボクセルに対して、抽出した解剖学的構造ごとに透過率や色相が設定されてもよく、そのために、各ボクセルは、座標情報、透過率情報および色相情報を含んでいてもよい。ボリュームデータにレンダリング処理を行うことによって、視認可能な3D解剖学的モデルを作成することができる。
3D解剖学的モデルは、図2に簡略的に例示すように、複数の独立したオブジェクト(解剖学的構造)18a~18cを含むデータであってもよい。ここでは一例として、臓器のオブジェクト18a、血管のオブジェクト18b、腫瘍部分のオブジェクト18cが含まれている。各オブジェクトをどのような形状で、どのように抽出(セグメンテーション化)するかに関しては、従来公知の手法を用いることができる。オブジェクトに関する色の設定や透過率の設定に関しても従来公知の手法を用いることができる。
なお、医用画像処理装置10は、表示デバイス13および入力デバイス14の一部が画像表示制御部11と別体のユニットで構成されたシステムとして構成されていてもよい。表示デバイスが複数設けられた例については別の図面を参照して後述するものとする。
画像表示制御部11は、CPU(Central Processing Unit)、ROM(Read Only Memory)およびRAM(Random Access Memory)を備えたプロセッサユニットで構成することができる。画像表示制御部11は、入力デバイス14によって受け付けられた入力に従って表示デバイス13への画像の表示を制御する種々の処理を実行する。画像表示制御部11で行われる処理は、コンピュータプログラムで実現してもよいし、論理回路によるハードウェアで実現してもよいし、それらの組合せであってもよい。
画像表示制御部11は、具体的には次のような処理を行うものであってもよい:
(a)入力判定処理
画像表示制御部11は、入力デバイス14を介して受け付けた入力を、入力を受け付けた入力デバイス14の種類、入力された信号の変化などに基づき認識する。
(b)表示処理
画像表示制御部11は、表示デバイス13等に表示される画面の表示領域についての処理および画像表示についての処理を行う。3D解剖学的モデルを表示デバイス13等に表示させる処理や、表示された画像の移動、拡大・縮小、回転等を行う処理がこの表示処理に含まれる。また、3D解剖学的モデルと内視鏡等によって撮像される患部画像との合成処理や、3D解剖学的モデルの結像位置の変更処理等を行う。もっとも、表示デバイス13に実際に表示させるところまでは必須ではなく、上述のような所定の処理が施された画像データを出力するのみの態様であってもよい。
(c)自動チューニング処理
画像表示制御部11は、後述するように、内視鏡などの医用光学撮像デバイスの光学特性データを取得する処理、および、それに基づいて画像表示のパラメータ(視野角、深度、拡大率等)を自動設定する処理等を行う。
〔動作の一例〕
I.テストチャートを用いた自動チューニング
本発明の一形態においては、医用画像処理装置10は図3Aに例示するような構成でシステム化され、内視鏡画像と3D解剖学的モデルとを合成表示させる機能を備えていてもよい。図3Aは、外部ディスプレイ13Aが医用画像処理装置10に接続されており、ここに医用画像が表示される例であるが、他にも、医用画像処理装置10に一体化された表示デバイスに表示する態様や、または、図3Bのように2つ以上の外部ディスプレイ13A、13Bに表示する態様としてもよい。図3Bの構成では、一方のディスプレイ13Aに立体視用のL側画像を表示し他方のディスプレイ13BにR側画像を表示するようにしてもよい。
内視鏡装置130としては、特に限定されるものではないが、この例では、内視鏡131と、そこからの検出信号に基づき内視鏡画像を生成するコントローラ132とを備えている。具体的には、検査領域を立体的に観察可能な画像を生成可能な立体視内視鏡装置であってもよい。内視鏡131は、検査領域に向けて照明光を出射する照明光学系と、検査領域を撮像するための撮像光学系とを有している。内視鏡131の先端部には、具体的には、撮像光学系としてCCDイメージセンサやCMOSイメージセンサといった撮像素子が設けられている。また、撮像素子の前面側には対物レンズユニットが配置されている。内視鏡131においてはその被写界深度や画角は内視鏡先端部に設けられた対物レンズユニット等の特性に依存することとなる。立体視内視鏡装置では、撮像光学系はL側とR側との独立した光学系で構成されており、視差を有するL側画像とR側画像を生成する。
本実施形態の医用画像処理装置10は、内視鏡装置130に接続され同装置からの内視鏡画像を読み込んでディスプレイ13Aおよび/またはディスプレイ13Bに表示することができるように構成されている。以下では、説明の簡単のため、ディスプレイ13Aに表示される態様を例として説明する。医用画像処理装置10において画像の合成・重畳等を行うのではなく、ミキサー等を利用して画像の合成・重畳を行う例については他の図面を参照して後述するものとする。
図4は、ディスプレイ13Aに表示される画像の一例である。図4に示すように、本実施形態では、内視鏡131で撮像されたリアルタイムの内視鏡画像(患部画像)201と、3D解剖学的モデル211(下記において血管モデル211と表現することもある)とが1つの画面中に合成して表示されている。図4の画像には、また、被検者の腹部に挿入された鉗子205も写し出されている。
血管モデル211は、CT装置、MRI装置または血管造影装置といった撮像装置を用いて事前に被検者を撮像して得た断層画像データに基づいて作成されたものである。撮像に関し、被検者に造影剤を注入して撮像が行われるものであってもよく、駆動機構を制御して所定の注入条件に従った注入を実施可能な薬液注入装置を用いた造影剤注入であれば、被検者の撮像対象領域を造影して良好な撮像画像を得ることができる点で好ましい。
図4のように内視鏡画像201と3D解剖学的モデル211とを合成表示できる構成によれば、術者は、例えば内視鏡画像201中の実際の解剖学的構造体(一例として血管)と仮想の解剖学的構造体(一例として血管)とを比較して、その形状や走行状態を確認することが可能となる。
内視鏡画像と3D解剖学的モデルとの合成表示に関しては、目的に応じて幾つか表示機能が備わっていてもよく、必ずしも内視鏡画像と3D解剖学的モデルとが重畳するように位置合せされて表示される態様に限定されるものではない。詳細は後述するが、3D解剖学的モデルを内視鏡画像における患部画像よりも手前側に見えるように結像させてもよい。
ところで、内視鏡画像(患部画像)に対して3D解剖学的モデルの形状、サイズ等を対応させて適切に重畳ないし合成するためには、使用する内視鏡装置130の内視鏡画像の特性に応じて、3D解剖学的モデルの形状等を変形させ微調整できるように構成されていることが好ましい。
そこで、本実施形態では、使用する内視鏡装置130の特性(光学的特性)に対応できるように、次のような自動チューニング機能を備えている。図5および図6を参照しながら以下説明する。
(自動チューニング機能)
まず、ステップS1においてテストチャート136を内視鏡131の先端部に対向するように配置し、ステップS2において内視鏡131でそのテストチャート136を撮像してテストチャート画像を生成する。テストチャート136としては、特定のものに限定されないが、例えば、格子状のパターン、ドット状のパターン、円状のパターンまたはそれらの適宜組合せなど、所定の幾何形状パターンを有するものであってもよい。
そして、ステップS3において、上記で取得された内視鏡画像の解析(例えば歪み度合いに基づく解析など)を行って当該内視鏡131の特性データを取得する。特性データとしては、内視鏡131の視野角、深度、拡大率、収差(歪曲収差等)等に関するデータであってもよい。
次いで、ステップS4において、その特性データに基づき3D解剖学的モデル211の調整を行う。例えば、3D解剖学的モデルが内視鏡画像として映し出されている患部画像の中の解剖学構造体と形状および/またはサイズが対応するように調整が行われるものであってもよい。L側画像とR側画像のそれぞれについて上記のような調整が行われてもよい。調整された3D解剖学的モデルの画像は、内視鏡画像におけるある解剖学的構造体に自動的に位置合わせされてもよいが、当該機能は必須ではない。
以上のような構成によれば、使用する内視鏡装置130の特性に応じて、3D解剖学的モデル211の形状やサイズ等を調整することができるため、内視鏡画像に対する重畳や合成を良好に行うことができる。
なお、使用する医用光学撮像デバイスの情報がプリセットされており、使用するデバイスが1つ選ばれると、それに関連付けられた特性データが自動的に選択されるように構成されていてもよい。デバイスの選択は操作者によるものであってもよいし、所定のセンサや機器によって若しくは所定のデータ通信によって、使用するデバイスが認識され自動的に特性データの選択が行われるものであってもよい。
上記では内視鏡装置とともに医用画像処理装置が使用される例について説明したが、内視鏡装置以外にも、例えば脳外科の開頭手術において術野を所定の撮像システムで撮影して患部画像をモニタで映しそれを見ながら手術を行う術式において、当該撮像システムと接続して使用されるものであってもよい。
II.3D解剖学的モデルの移動態様
内視鏡画像と3D解剖学的モデルとの重畳の場合には、基本的には、図7(a)に示すように内視鏡画像(患部画像)の位置と3D解剖学的モデルの像の位置とが一致していればよい。他方、本実施形態の医用画像処理装置10においては、3D解剖学的モデルの像の位置を前後方向(手前奥方向)に変更できるように構成されており、図7(b)は3D解剖学的モデルの結像位置を手前側に移動させた状態を模式的に示している。図7(b)の状態では、術者は、3D解剖学的モデルが被検者の患部画像よりも手前側に浮き上がったような感覚で画像を視認することができる。
このような構成によれば、例えば、3D解剖学的モデルの所定の細部を確認したいようなケースにおいて、患部画像よりも手前側の位置で3D解剖学的モデルを回転および/または拡大縮小させて細部の確認を行うことができるという利点がある。
なお、3D解剖学的モデルの像を内視鏡画像よりも奥側へと移動させることができる構成となっていてもよい。また、3D解剖学的モデルの結像位置は、当然ながら、前後方向(手前奥方向)に限らず、三次元空間内の任意の方向に移動可能であってもよい。
医用画像処理装置10は、一例として、3D解剖学的モデルと患部画像とが重畳表示されるオーバレイモード、3D解剖学的モデルを患部画像の手前側に表示させる3D観察モード、3D解剖学的モデルを画面中に小さくサムネイル表示して患部画像をメインに表示する3D参照モード等の複数のモードが切替え可能に構成されていてもよい。この切替えは画面上の所定の画像ボタンを操作することで行われてもよいし、音声入力により行われてもよいし、操作者のジェスチャを検知して行われるものであってもよい。
本実施形態では上記のように3D解剖学的モデルの結像位置を自由に調整できるようになっているが、ここで、3D解剖学的モデルの回転軸の位置との関連で次のような問題が生じうる。これについて図8の模式図を参照しつつ説明する。
医用画像処理装置10によって生成された3D解剖学的モデル211は、図8に模式的に示すように立体的な仮想空間内で結像位置を移動させることができる。ここで、例えば3D解剖学的モデル211を符号211から符号211′の位置まで移動させることを考える。3D解剖学的モデル211は、通常、ある決まった位置に所定の回転軸が設定されており(符号Ax1参照)、3D解剖学的モデル211を回転させる場合にはこの回転軸周りにボリュームが回転させられることとなる。
他方、図8の符号211′の位置まで3D解剖学的モデル211の結像位置を移動させた場合であっても回転軸は通常元の位置のままである。したがって、移動先の位置で3D解剖学的モデル211′を回転させようとすると、初期設定の回転軸を中心としてボリュームが大きくに動くこととなり、こうした表示態様は操作が行い難く、また3D解剖学的モデル211′が画面の可視範囲から外れるおそれもある。
そこで、本実施形態では、3D解剖学的モデル211の結像位置を変更した場合に、それに合わせて回転軸の位置も追従して変更されるように構成されている。具体的には、図8の例で言えば、3D解剖学的モデルの像を符号211から符号211′の位置に移動させた場合にそれに対応させて、回転軸もAx1からAx2へと変更される。回転軸Ax2は、3D解剖学的モデル211′の近傍に位置しているため、3D解剖学的モデル211′を回転操作した場合であっても、回転軸Ax2を中心として3D解剖学的モデルが回転することとなり、結果として、操作が行いやすくまた回転後の3D解剖学的モデルの確認も行い易いものとなる。
なお、結像位置の変更に伴い3D解剖学的モデルの表示サイズが変わらないように、結像位置が変更された際にはそれ合わせて表示倍率が自動調整されるように構成されていてもよい。また、図8における3D解剖学的モデルの結像位置の移動(符号211→符号211′)に関し、移動の方向は前後方向(手前奥方向)に限らず、三次元空間内の任意の方向であってもよく、例えば符号211の位置から符号211′′へ移動させられるものであってもよい。この場合、回転軸Ax3も3D解剖学的モデル211′′に追従するように構成されている(換言すれば、3D解剖学的モデル回転軸との相対位置関係が変化せず、一定に保たれるように構成されている)。
上記に説明したような、画像を操作するためのユーザーインターフェースとしては特に限定されるものではないが、具体的な一例として図9のようなグラフィカルスライダを有するGUIであってもよい。この例では、3D解剖学的モデルの結像位置を手前奥方向に移動させるためのスライダ表示部611と、3D解剖学的モデルの視差を調整するためのスライダ表示部612と、3D解剖学的モデルの表示視野角を調整するためのスライダ表示部613とが表示されている。これは全てが本発明において必須ということではなく、1つまたは2つのみが表示されていてもよい。なお、スライダ表示部611~613の全てまたは一部は物品または画像の意匠として保護され得るものであり、本出願は意匠法の保護対象をも開示するものである点に留意されたい。
スライダ表示部611は、直線のラインに沿ってスライド移動するポインタ611aを含んでおり、このポインタ611aの位置を操作者が動かすことにより、3D解剖学的モデルの結像位置が変更されるようになっている。スライド表示部612も同様に、直線のラインに沿ってスライド移動するポインタ612aを含んでおり、このポインタ612aの位置を操作者が動かすことにより、3D解剖学的モデルの視差が変更されるようになっている。
スライダ表示部613も同様に、直線のラインに沿ってスライド移動するポインタ613aを含んでいる。さらに、この例では、そのポインタ613aの両端部とポインタ可動範囲の端部とを接続するような態様で等辺部613bが表示されており、全体として略二等辺三角形状の表示となっている。ポインタ613aを動かすことにより、3D解剖学的モデルの表示視野角も変更されるが、その際、ポインタ613aの位置に対応して略二等辺三角形の形状が変わるようになっているので、操作者は、表示視野角の変更を直感的に視覚的に把握することができる。
以上、本発明の実施の形態について図面を参照しながら説明したが、本発明は上記の具体的な態様に限定されるものではなく本発明の趣旨を逸脱しない範囲で適宜変更可能である。また、開示された技術的特徴は、本発明の趣旨を逸脱しない範囲で適宜組み合わせて利用することができる。また、本明細書は、例えば装置の発明として開示した内容を方法の発明、コンピュータプログラムの発明、およびプログラム媒体のカテゴリーで表現したものをも開示する。
(他の実施態様)
本発明の一形態に係る医用画像処理装置は図10に示すようなシステムにおいて使用されてもよい。この医用画像処理装置10Aは、内視鏡装置130Aから出力される画像フォーマットに対応した画像フォーマットのデータ(3D解剖学的モデル等のデータ)を出力する。内視鏡装置130Aからの出力データと医用画処理装置10Aからの出力データとは、ミキサー121に入力されそこで合成され、表示装置122で表示される。ミキサー121としては、複数の画像データを合成できるものであればよく、例えば従来公知の機器であってもよい。表示装置122は、1つまたは複数のディスプレイ等であってもよい。ここで言及しない医用画像処理装置の構成および機能については、上述した実施形態と同様であってもよい。
画像フォーマットとしては、左右のチャンネル(LR)のデータが出力されるもの、または、左右の区別のないデータが出力されるもの等、任意のフォーマットであってもよい。医用画像処理装置10Aとしては、内視鏡装置130Aの画像フォーマットを自動検出するものであってもよいし、操作者がフォーマットを選択するためのユーザーインターフェースを提供するものであってもよい。
このようなシステム構成においても、医用画層処理装置10Aが例えば3D解剖学的モデルの回転軸位置変更機能(Ax1→Ax2)を有している場合、上述した実施形態と同様の作用効果を得ることができる。また、医用画層処理装置10Aがテストチャート画像を解析して得た特性データに基づく表示態様調整機能を有している場合、やはり上述した実施形態と同様の作用効果を得ることができる。
(付記1)
本明細書は、以下の発明を開示する。下記の発明は例えば図10の構成に対応するものである:
A1.画像表示制御部を備える医用画像処理装置(10A)であって、
上記画像表示制御部は、
被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
上記3D解剖学的モデルの結像位置(一例で三次元空間内の奥行方向における位置)が変更された場合に、変更後の位置(211′)に合わせて、当該3D解剖学的モデルの回転軸の位置も変更する(Ax1→Ax2)処理を行うように構成されている、
医用画像処理装置。
A2.上記画像表示制御部は、上記3D解剖学的モデルの表示に関連する操作を受け付けるためのグラフィカルユーザインターフェースを有し、上記グラフィカルユーザインターフェースは、上記3D解剖学的モデルの結像位置を移動させるためのグラフィカルスライダ(613)を含む、上記記載の医用画像処理装置。
A3.上記3D解剖学的モデルは、医用光学撮像デバイス(130)で撮像された被検者の患部画像(201)と合成して表示されるものであって、
上記患部画像は、視差のある複数の画像からなる立体視画像である、上記記載の医用画像処理装置。
A4.上記医用光学撮像デバイスが、内視鏡装置である、上記記載の医用画像処理装置。
A5.上記医用光学撮像デバイスが、外科手術において被検者の検査領域を撮像する撮像デバイスである、上記記載の医用画像処理装置。
被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
上記3D解剖学的モデルの結像位置(一例で三次元空間内の奥行方向における位置)が変更された場合に、変更後の位置(211′)に合わせて、当該3D解剖学的モデルの回転軸の位置も変更する(Ax1→Ax2)処理と、
を含み、上記処理は1つまたは複数の制御部によって実施される、医用画像処理方法。1つまたは複数のコンピュータに当該方法を実施させるためのコンピュータプログラム。
A6.画像表示制御部を備える医用画像処理装置(10A)であって、
上記画像表示制御部(11)は、
被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込んで出力する処理を行うように構成され、さらに、
e1:医用光学撮像デバイスでテストチャートを撮像してそのテストチャート画像を取得する処理と、
e2:上記テストチャート画像を解析して上記医用光学撮像デバイスの光学特性データを取得する処理と、
e3:上記光学特性データに基づき、上記3D解剖学的モデル(211)の態様を調整する処理と、
を行う、医用画像処理装置。
被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込んで出力する処理を行う医用画像処理方法であって、さらに、
e1:医用光学撮像デバイスでテストチャートを撮像してそのテストチャート画像を取得する処理と、
e2:上記テストチャート画像を解析して上記医用光学撮像デバイスの光学特性データを取得する処理と、
e3:上記光学特性データに基づき、上記3D解剖学的モデル(211)の態様を調整する処理と、
を含み、上記処理は1つまたは複数の制御部によって実施される、医用画像処理方法。1つまたは複数のコンピュータに当該方法を実施させるためのコンピュータプログラム。
(付記2)
本明細書は、また以下の発明も開示する:
B1.画像表示制御部(11)を備える医用画像処理装置(10)であって、
上記画像表示制御部(11)は、
a:医用光学撮像デバイス(130)で撮像された被検者の患部画像(201)を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
c:上記患部画像(201)と上記3D解剖学的モデルとを合成して表示する処理と、
を行うように構成され、さらに、
d:上記3D解剖学的モデルの結像位置が変更された場合に、変更後の位置に合わせて、当該3D解剖学的モデルの回転軸(Ax)の位置も変更する処理を行うように構成されている、
医用画像処理装置。
ここで、「回転軸(Ax)の位置も変更する」とは、具体的には、回転軸の位置が3D解剖学的モデルの位置に追従するように変更が行われること、言い換えれば、回転軸と3D解剖学的モデルとの相対位置関係が変化しないように変更が行われることをいう。
1つまたは複数の処理部(コンピュータ)に、
a:医用光学撮像デバイスで撮像された被検者の患部画像を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデルを読み込む処理と、
c:上記患部画像と上記3D解剖学的モデルとを合成して表示する処理と、
d:上記3D解剖学的モデルの結像位置が変更された場合に、変更後の位置に合わせて、当該3D解剖学的モデルの回転軸の位置も変更する処理と、
を行わせる医用画像処理プログラム。
a:医用光学撮像デバイスで撮像された被検者の患部画像を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデルを読み込む処理と、
c:上記患部画像と上記3D解剖学的モデルとを合成して表示する処理と、
d:上記3D解剖学的モデルの結像位置が変更された場合に、変更後の位置に合わせて、当該3D解剖学的モデルの回転軸の位置も変更する処理と、
を行う医用画像処理方法。
B2.画像表示制御部(11)を備える医用画像処理装置(10)であって、
上記画像表示制御部(11)は、
a:医用光学撮像デバイス(130)で撮像された被検者の患部画像(201)を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
c:上記患部画像(201)と上記3D解剖学的モデルとを合成して表示する処理と、
を行うように構成され、さらに、
e1:上記医用光学撮像デバイスでテストチャートを撮像してそのテストチャート画像を取得する処理と、
e2:上記テストチャート画像を解析して上記医用光学撮像デバイスの光学特性データを取得する処理と、
e3:上記光学特性データに基づき、上記3D解剖学的モデル(211)の表示態様を調整する処理と、
を行う、医用画像処理装置。
1つまたは複数の処理部(コンピュータ)に、
a:医用光学撮像デバイス(130)で撮像された被検者の患部画像(201)を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
c:上記患部画像(201)と上記3D解剖学的モデルとを合成して表示する処理と、
を行うように構成され、さらに、
e1:上記医用光学撮像デバイスでテストチャートを撮像してそのテストチャート画像を取得する処理と、
e2:上記テストチャート画像を解析して上記医用光学撮像デバイスの光学特性データを取得する処理と、
e3:上記光学特性データに基づき、上記3D解剖学的モデル(211)の表示態様を調整する処理と、
を行わせる医用画像処理プログラム。
a:医用光学撮像デバイス(130)で撮像された被検者の患部画像(201)を読み込む処理と、
b:被検者の解剖学的構造体を立体的に表した3D解剖学的モデル(211)を読み込む処理と、
c:上記患部画像(201)と上記3D解剖学的モデルとを合成して表示する処理と、
を行うように構成され、さらに、
e1:上記医用光学撮像デバイスでテストチャートを撮像してそのテストチャート画像を取得する処理と、
e2:上記テストチャート画像を解析して上記医用光学撮像デバイスの光学特性データを取得する処理と、
e3:上記光学特性データに基づき、上記3D解剖学的モデル(211)の表示態様を調整する処理と、
を行う医用画像処理方法。
1 医用画像処理システム
10、10A 医用画像処理装置
11 画像表示制御部
12 データ格納部
13 表示デバイス
13A、13B ディスプレイ
14 入力デバイス
15 データ入出力インターフェース
18a~18c オブジェクト
21 医用情報管理装置
22 薬液注入装置
23 撮像装置
121 ミキサー
122 表示装置
130 内視鏡装置
131 内視鏡
132 コントローラ
136 テストチャート
201 内視鏡画像(患部画像)
205 鉗子
211、211′ 3D解剖学的モデル(血管モデル)
611~613 スライダ表示部
611a~613a ポインタ
613b 等辺部

Claims (5)

  1. 画像表示制御部を備える医用画像処理装置であって、
    前記画像表示制御部は、
    被検者の解剖学的構造体を立体的に表した3D解剖学的モデルを読み込む処理と、
    前記3D解剖学的モデルを立体的な仮想空間内で任意に移動可能および回転軸周りに回転可能に結像させる処理と、
    前記3D解剖学的モデルの結像位置が変更された場合に、変更後の前記3D解剖学的モデルと前記回転軸との相対位置関係が変化せず一定に保たれるように、前記回転軸の位置も変更する処理を行うように構成されている、
    医用画像処理装置。
  2. 前記画像表示制御部は、
    前記3D解剖学的モデルの表示に関連する操作を受け付けるためのグラフィカルユーザインターフェースを有し、前記グラフィカルユーザインターフェースは、前記3D解剖学的モデルの結像位置を移動させるためのグラフィカルスライダを含む、
    請求項1に記載の医用画像処理装置。
  3. 前記3D解剖学的モデルは、医用光学撮像デバイスで撮像された被検者の患部画像と合成して表示されるものであって、
    前記患部画像は、視差のある複数の画像からなる立体視画像である、
    請求項1または2に記載の医用画像処理装置。
  4. 前記医用光学撮像デバイスが、内視鏡装置である、請求項3に記載の医用画像処理装置。
  5. 前記医用光学撮像デバイスが、外科手術において被検者の検査領域を撮像する撮像デバイスである、請求項3に記載の医用画像処理装置。
JP2020034103A 2020-02-28 2020-02-28 医用画像処理装置、医用画像処理方法および医用画像処理プログラム Active JP7680728B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020034103A JP7680728B2 (ja) 2020-02-28 2020-02-28 医用画像処理装置、医用画像処理方法および医用画像処理プログラム
JP2024101699A JP2024123195A (ja) 2020-02-28 2024-06-25 医用画像処理装置、医用画像処理方法および医用画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020034103A JP7680728B2 (ja) 2020-02-28 2020-02-28 医用画像処理装置、医用画像処理方法および医用画像処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024101699A Division JP2024123195A (ja) 2020-02-28 2024-06-25 医用画像処理装置、医用画像処理方法および医用画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2021133170A JP2021133170A (ja) 2021-09-13
JP7680728B2 true JP7680728B2 (ja) 2025-05-21

Family

ID=77659747

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020034103A Active JP7680728B2 (ja) 2020-02-28 2020-02-28 医用画像処理装置、医用画像処理方法および医用画像処理プログラム
JP2024101699A Pending JP2024123195A (ja) 2020-02-28 2024-06-25 医用画像処理装置、医用画像処理方法および医用画像処理プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024101699A Pending JP2024123195A (ja) 2020-02-28 2024-06-25 医用画像処理装置、医用画像処理方法および医用画像処理プログラム

Country Status (1)

Country Link
JP (2) JP7680728B2 (ja)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004230166A (ja) 2003-01-30 2004-08-19 Ge Medical Systems Global Technology Co Llc 被検体の再配向を用いてイメージングする方法及び装置
JP2004259063A (ja) 2003-02-26 2004-09-16 Sony Corp 3次元オブジェクトの表示処理装置、表示処理方法およびコンピュータプログラム
JP2006320427A (ja) 2005-05-17 2006-11-30 Hitachi Medical Corp 内視鏡手術支援システム
JP2007508094A (ja) 2003-10-17 2007-04-05 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ モデルベースの画像セグメンテーションのための手動ツール
US20070147707A1 (en) 2003-05-22 2007-06-28 Inria Institut National De Recherche En Informatique Et En Automatique Device and method for superimposing patterns on images in real-time, particularly for guiding by localisation
JP2010533008A (ja) 2007-06-29 2010-10-21 スリーエム イノベイティブ プロパティズ カンパニー ビデオデータ及び三次元モデルデータの同期ビュー
US20130169594A1 (en) 2011-12-30 2013-07-04 Samsung Electronics Co., Ltd Apparatus and method for controlling 3d image
JP2015006327A (ja) 2013-05-28 2015-01-15 株式会社東芝 医用画像処理装置
WO2015029318A1 (ja) 2013-08-26 2015-03-05 パナソニックIpマネジメント株式会社 3次元表示装置および3次元表示方法
US20170038950A1 (en) 2012-04-30 2017-02-09 D.R. Systems, Inc. Display of 3d images
JP2017191546A (ja) 2016-04-15 2017-10-19 ミラマ サービス インク 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
JP2018509213A (ja) 2015-03-06 2018-04-05 アライン テクノロジー, インコーポレイテッド 口腔内画像の自動選択及びロック

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06339454A (ja) * 1993-06-01 1994-12-13 Olympus Optical Co Ltd 計測用内視鏡装置
JP3104638B2 (ja) * 1996-03-25 2000-10-30 株式会社日立製作所 3次元画像作成装置
JP2003085590A (ja) * 2001-09-13 2003-03-20 Nippon Telegr & Teleph Corp <Ntt> 3次元情報操作方法およびその装置,3次元情報操作プログラムならびにそのプログラムの記録媒体
JPWO2017034020A1 (ja) * 2015-08-26 2018-08-02 株式会社根本杏林堂 医用画像処理装置および医用画像処理プログラム

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004230166A (ja) 2003-01-30 2004-08-19 Ge Medical Systems Global Technology Co Llc 被検体の再配向を用いてイメージングする方法及び装置
JP2004259063A (ja) 2003-02-26 2004-09-16 Sony Corp 3次元オブジェクトの表示処理装置、表示処理方法およびコンピュータプログラム
US20070147707A1 (en) 2003-05-22 2007-06-28 Inria Institut National De Recherche En Informatique Et En Automatique Device and method for superimposing patterns on images in real-time, particularly for guiding by localisation
JP2007508094A (ja) 2003-10-17 2007-04-05 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ モデルベースの画像セグメンテーションのための手動ツール
JP2006320427A (ja) 2005-05-17 2006-11-30 Hitachi Medical Corp 内視鏡手術支援システム
JP2010533008A (ja) 2007-06-29 2010-10-21 スリーエム イノベイティブ プロパティズ カンパニー ビデオデータ及び三次元モデルデータの同期ビュー
US20130169594A1 (en) 2011-12-30 2013-07-04 Samsung Electronics Co., Ltd Apparatus and method for controlling 3d image
US20170038950A1 (en) 2012-04-30 2017-02-09 D.R. Systems, Inc. Display of 3d images
JP2015006327A (ja) 2013-05-28 2015-01-15 株式会社東芝 医用画像処理装置
WO2015029318A1 (ja) 2013-08-26 2015-03-05 パナソニックIpマネジメント株式会社 3次元表示装置および3次元表示方法
US20150235373A1 (en) 2013-08-26 2015-08-20 Panasonic Intellectual Property Management Co., Ltd. Three-dimensional display device and three-dimensional display method
JP2018509213A (ja) 2015-03-06 2018-04-05 アライン テクノロジー, インコーポレイテッド 口腔内画像の自動選択及びロック
JP2017191546A (ja) 2016-04-15 2017-10-19 ミラマ サービス インク 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法

Also Published As

Publication number Publication date
JP2021133170A (ja) 2021-09-13
JP2024123195A (ja) 2024-09-10

Similar Documents

Publication Publication Date Title
CN112740285B (zh) 在虚拟环境中对医学图像的叠加和操纵
Sielhorst et al. Advanced medical displays: A literature review of augmented reality
US20250054147A1 (en) Composite medical imaging systems and methods
Bichlmeier et al. The virtual mirror: a new interaction paradigm for augmented reality environments
JP5417609B2 (ja) 医用画像診断装置
US10580325B2 (en) System and method for performing a computerized simulation of a medical procedure
Nicolau et al. Augmented reality in laparoscopic surgical oncology
JP6246718B2 (ja) 画像表示方法及び画像処理装置
EP3735674B1 (en) System and method for detecting abnormal tissue using vascular features
US9036882B2 (en) Diagnosis assisting apparatus, diagnosis assisting method, and recording medium having a diagnosis assisting program stored therein
US12102391B2 (en) System and method for registration and coordinated manipulation of augmented reality image components
Navab et al. Laparoscopic virtual mirror new interaction paradigm for monitor based augmented reality
US20130257910A1 (en) Apparatus and method for lesion diagnosis
JP7391348B2 (ja) 医用画像処理システム、医用画像処理方法および医用画像処理プログラム
US20250268666A1 (en) Systems and methods for providing surgical assistance based on operational context
Beck et al. Augmented reality and virtual reality: Initial successes in diagnostic radiology
US11660158B2 (en) Enhanced haptic feedback system
Yaniv et al. Applications of augmented reality in the operating room
JP2021171443A (ja) 医用画像処理装置、医用画像処理装置の制御方法および医用画像処理プログラム
JP7680728B2 (ja) 医用画像処理装置、医用画像処理方法および医用画像処理プログラム
CN208017582U (zh) 计算机辅助微创手术装置
Kersten-Oertel et al. 20 Augmented Reality for Image-Guided Surgery
JP2022145671A (ja) ビューワ、前記ビューワの制御方法および前記ビューワの制御プログラム
Stoyanov The Challenge of Augmented Reality in Surgery
Shimamura et al. Virtual slicer: Interactive visualizer for tomographic medical images based on position and orientation of handheld device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231221

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240625

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20240702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250430

R150 Certificate of patent or registration of utility model

Ref document number: 7680728

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150