Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7480779B2 - 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム - Google Patents
[go: Go Back, main page]

JP7480779B2 - 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム - Google Patents

医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム Download PDF

Info

Publication number
JP7480779B2
JP7480779B2 JP2021522792A JP2021522792A JP7480779B2 JP 7480779 B2 JP7480779 B2 JP 7480779B2 JP 2021522792 A JP2021522792 A JP 2021522792A JP 2021522792 A JP2021522792 A JP 2021522792A JP 7480779 B2 JP7480779 B2 JP 7480779B2
Authority
JP
Japan
Prior art keywords
image
drug
fluorescent
unit
timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021522792A
Other languages
English (en)
Other versions
JPWO2020241651A1 (ja
Inventor
大介 菊地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020241651A1 publication Critical patent/JPWO2020241651A1/ja
Application granted granted Critical
Publication of JP7480779B2 publication Critical patent/JP7480779B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B18/04Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating
    • A61B18/12Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating by passing a current through the tissue to be heated, e.g. high-frequency current
    • A61B18/14Probes or electrodes therefor
    • A61B18/1482Probes or electrodes therefor having a long rigid shaft for accessing the inner body transcutaneously in minimal invasive surgery, e.g. laparoscopy
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Description

本開示は、医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システムに関する。
手術手法、手術器具等の発達に伴い、内視鏡や手術用顕微鏡等のような医療用の観察装置により患部を観察しながら、各種処置を施す手術(所謂、マイクロサージャリー)が頻繁に行われるようになってきている。また、このような医療用の観察装置の中には、患部を光学的に観察可能とする装置に限らず、撮像装置(カメラ)等により撮像された患部の画像を、モニタ等の表示装置に電子画像として表示させる装置やシステムも提案されている。
また、近年では、内視鏡や手術用顕微鏡等の観察装置を用いた観察手法として、可視光帯域の光によって術野を観察する方法のみに限らず、所謂特殊光観察と呼ばれる観察手法が各種提案されている。特殊光観察としては、例えば、狭帯域光観察(NBI:Narrow Band Imaging)、蛍光観察(FI:Fluorescence Imaging)、及び赤外光観察(IRI:Infra-Red Imaging)等が挙げられる。
具体的な一例として、蛍光観察では、癌等の病巣に親和性を有する蛍光物質(換言すると、蛍光体)を予め検査対象者(患者)に投与したうえで、当該蛍光物質を励起するための励起光を照射し、病巣部に集積した蛍光物質から発せられる蛍光の蛍光像(即ち、蛍光の検出結果に基づく観察像)により、当該病巣部を観察する。例えば、特許文献1には、蛍光物質としてインドシアニングリーン(ICG)を利用した蛍光観察の概要と当該蛍光観察に基づく手術の一例とが開示されている。
草野 満夫著、「ICG蛍光Navigation Surgeryのすべて」株式会社インターメディカ、2008年、p.265
一方で、蛍光物質を含む薬剤(以降では、「蛍光薬剤」とも称する)を投与して蛍光観察が行われると、血流を介して当該蛍光物質(例えば、ICG)が血管壁や組織中のたんぱく質等に付着し、しばらくの間蛍光を発することがある。このような特性から、蛍光薬剤を複数回投与するような状況下では、2度目以降の蛍光薬剤の投与時に、前回の投与に伴う蛍光物質と、新たな投与に伴う蛍光物質と、が混在することとなり、視認性が低下する場合がある。これに対して、視認性を確保する方法の一例として、観察領域に残存した蛍光物質が放出された後に(ウォッシュアウトされた後に)観察を行う方法が挙げられる。しかしながら、この方法を適用する場合には、蛍光物質が放出されるまでに時間を要し、結果として観察に係る時間がより長くなる傾向にある。
そこで、本開示では、薬剤が複数回投与される状況下においても、当該薬剤に対応して取得される画像をより好適な態様で観察可能とする技術を提案する。
本開示によれば、第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得し、前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を生成する、画像処理部を備える、医療用画像処理装置が提供される。
また、本開示によれば、コンピュータが、第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得することと、前記第1の蛍光画像と前記第2の蛍光画像とに基づいて、前記第2の薬剤により生じる蛍光を強調した出力画像を生成することと、を含む、医療用画像処理装置の駆動方法が提供される。
また、本開示によれば、患者へ投与される薬剤に含まれる蛍光物質の励起光を射出する光源と、前記薬剤により生じる蛍光を含む光を受光して撮像する撮像部と、第1の薬剤を投与されたタイミングから、第2の薬剤を投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づいて、前前記第2の薬剤により生じる蛍光が強調された出力画像を生成する画像処理装置と、を備える、医療用撮像システムが提供される。
また、本開示によれば、患者へ投与される薬剤に応じた波長帯域に属する光を撮像対象とした、撮像部による当該患者の患部の撮像結果に応じた出力画像を出力する画像処理部を備え、前記画像処理部は、その時々の前記患部の撮像結果に応じた出力画像を出力する第1のモードと、第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を出力する第2のモードと、を動作モードとして含む、医療用画像処理装置が提供される。
また、本開示によれば、患者へ投与される薬剤に応じた波長帯域の光を射出する光源と、前記薬剤に応じた波長帯域に属する光信号を取得する取得部と、第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に取得された第1の光信号と、前記第1のタイミング以降に取得された第2の信号と、に基づいて、前記第2の薬剤による生じる光信号を抽出する光信号抽出部と、を備える、医療用信号取得システムが提供される。
本開示の一実施形態に係る医療用観察システムの機能構成の一例を示した機能ブロック図である。 同実施形態に係る医療用観察システムの機能構成の一例について示した機能ブロック図である。 同実施形態に係る医療用観察システムにおける画像信号に対する信号処理の一例について概要を説明するための説明図である。 同実施形態に係る医療用観察システムにおける画像信号に対する信号処理の一例について概要を説明するための説明図である。 同実施形態に係る医療用観察システムの一連の処理の流れの一例について示したフローチャートである。 同実施形態に係る医療用観察システムの実施例について説明するための説明図である。 変形例1に係る医療用観察システムの機能構成の一例を示したブロック図である。 変形例2に係る医療用観察システムの機能構成の一例を示したブロック図である。 同実施形態に係る医療用観察システムを構成する情報処理装置のハードウェア構成の一構成例を示す機能ブロック図である。 同実施形態に係る医療用観察システムの応用例について説明するための説明図である。 同実施形態に係る医療用観察システムの他の応用例について説明するための説明図である。 同実施形態に係る医療用観察システムの他の応用例について説明するための説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.はじめに
2.技術的特徴
2.1.機能構成
2.2.信号処理
2.3.処理の流れ
2.4.実施例
2.5.変形例
3.ハードウェア構成の一例
4.応用例
4.1.応用例1:顕微鏡撮像システム
4.2.応用例2:内視鏡手術システム
5.むすび
<<1.はじめに>>
まず、薬剤を使用する観察手法の一例として、所謂特殊光観察と称される観察手法のうち、特に、蛍光物質を利用することで病巣部の蛍光像を観察する蛍光観察について概要を説明したうえで、本開示に係る医療用観察システムの技術的課題について説明する。
蛍光観察では、癌等の病巣に親和性を有する蛍光物質を予め検査対象者(患者)に投与し、当該蛍光物質を励起するための励起光を照射することにより、病巣部に集積した蛍光物質から発せられる蛍光の蛍光像(即ち、蛍光の検出結果に基づく観察像)により、当該病巣部を観察する。
蛍光観察に使用される蛍光物質の代表的な一例として、インドシアニングリーン(ICG)が挙げられる。ICGは、励起光として808nm近傍の波長を有する光を使用することで、820nm前後の波長を有する蛍光(即ち、近赤外帯域の光)を発する。
また、近年では、蛍光観察に利用する蛍光物質として、癌等の病巣に対してより選択的に集積する特性や、投与に伴う検査対象者への影響(副作用)の軽減等の観点から、ICG以外にも各種提案されている。また、このような蛍光物質の中には、ICGとは異なる波長帯域の蛍光を発するものも提案されており、可視光波長帯域に属する光を発する蛍光物質も提案されている。
蛍光観察では、例えば、ICG等の蛍光物質が発する蛍光の有無や、当該蛍光の時間変化を観察することで、術者は、血流やリンパ流を視覚的に観察することも可能となる。また、蛍光物質が発する蛍光の時間変化(即ち、患者の体内を流れる当該蛍光物質の時間変化)を解析することで、例えば、血管やリンパ管等のように所望の媒質(例えば、血液やリンパ液)が流れる部位のうち、流れの良い部分と悪い部分とを判別することも可能となる。
一方で、ICG等の蛍光物質を利用した蛍光観察を外科手術に利用する際の課題として、蛍光薬剤を投与して蛍光造影を行うと、血流を介して当該蛍光物質が血管壁や組織中のたんぱく質等に付着し、しばらくの間蛍光を発することがある。このような状況下では、比較的短い期間の間に、蛍光薬剤の投与と、蛍光観察と、を繰り返し実行する場合に、蛍光薬剤の投与時に、前回の投与に伴う蛍光物質と、新たな投与に伴う蛍光物質と、が混在するような状況となり得る。このような場合には、前回の投与に伴う蛍光物質が発する蛍光の残留により、新たな投与に伴う蛍光物質が発する蛍光の視認性が低下する場合がある。これに対して、視認性を確保する方法の一例として、観察領域に残存した蛍光物質が放出された後に(ウォッシュアウトされた後に)観察を行う方法が挙げられる。しかしながら、この方法を適用する場合には、蛍光物質が放出されるまでに時間を要し、結果として観察に係る時間がより長くなる傾向にある。
以上のような状況を鑑み、本開示では、薬剤が複数回投与される状況下においても、当該薬剤に対応して取得される画像をより好適な態様で観察可能とする技術を提案する。
具体的には、蛍光薬剤の投与と、蛍光観察と、を繰り返し実行するような状況下においても、蛍光物質の放出を待たずに、新たな蛍光薬剤の投与に伴う蛍光物質が発する蛍光の撮像結果に応じた蛍光画像を、より好適な態様で観察可能とする技術を提案する。
<<2.技術的特徴>>
続いて、本開示の一実施形態に係る医療用観察システムの技術的特長について説明する。なお、以降では、本実施形態に係る医療用観察ステムの技術的特徴について、特に、患者に対して所定の蛍光物質を含む蛍光薬剤を投与し、当該蛍光物質が発する蛍光の撮像結果に応じた蛍光画像に基づき、患部の観察を行う場合に着目して説明する。
<2.1.機能構成>
まず、本実施形態に係る医療用観察システムの機能構成の一例について説明する。本実施形態に係る医療用観察システムは、通常観察モードと、差分表示モードと、を選択的に切り替えて動作可能に構成されている。通常観察モードは、撮像部(例えば、内視鏡装置や顕微鏡装置等)によるその時々の患部の撮像結果に応じた蛍光画像を出力するモードである。また、差分表示モードは、蛍光薬剤の投与と、蛍光観察と、を繰り返し実行するような状況下において、前回以前に投与された蛍光物質が発する蛍光の影響を低減することで、新たに投与された蛍光物資が発する蛍光の撮像結果に応じた蛍光画像をより好適な態様で観察可能に提示するモードである。そこで、本項では、通常観察モードでの動作時と、差分表示モードでの動作時と、のそれぞれにわけて、本実施形態に係る医療用観察システムの機能構成の一例について説明する。なお、通常観察モードが「第1のモード」の一例に相当し、差分表示モードが「第2のモード」の一例に相当する。
まず、図1を参照して、通常観察モードで動作する場合における、本実施形態に係る医療用観察システムの機能構成の一例について説明する。図1は、本実施形態に係る医療用観察システム11の機能構成の一例を示した機能ブロック図であり、通常観察モードで動作する場合の機能構成の一例を示している。なお、以降では、通常観察モードでの動作時における医療用観察システム11を特に示す場合には、便宜上「医療用観察システム11a」とも称する。これに対して、後述する差分表示モードでの動作時における医療用観察システム11を特に示す場合には、便宜上「医療用観察システム11b」とも称する。
図1に示すように、医療用観察システム11aは、撮像部191と、信号処理部110と、出力部193とを含む。なお、以降の説明では、通常観察モードでの動作時における信号処理部110を特に示す場合には、図1に示すように、便宜上「信号処理部110a」とも称する。これに対して、後述する差分表示モードでの動作時における信号処理部110を特に示す場合には、便宜上「信号処理部110b」とも称する。
撮像部191は、患部(観察対象)からの光を受光することで、当該患部の画像を撮像する構成を模式的に示している。具体的な一例として、撮像部191は、内視鏡装置や手術用顕微鏡装置の一部(例えば、カメラヘッド)として構成され得る。撮像部191は、患部の撮像結果に応じた画像を信号処理部110aに出力する。なお、蛍光観察が行われる状況下では、撮像部191から信号処理部110aに対して、患者に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の撮像結果に応じた画像信号(換言すると、蛍光画像)が出力されることとなる。
出力部193は、ユーザに対して各種情報を提示する。本実施形態に係る医療用観察システム11では、出力部193は、所謂ディスプレイ等のような表示部として構成され、画像(静止画像や動画像)等のような表示情報を表示することでユーザに情報を提示する。具体的な一例として、出力部193は、後述する信号処理部110aから出力される出力画像(蛍光画像)を表示してもよい。
信号処理部110は、所謂CCU(カメラコントロールユニット)として構成され、撮像部191から出力される画像信号(例えば、蛍光画像)に対して各種画像処理を施すことで出力画像を生成し、当該出力画像を出力部193に出力させる。図1に示すように、信号処理部110aは、現像処理部111を含む。
現像処理部111は、所定の単位期間(例えば、フレーム)ごとに撮像部191から出力される画像信号に対して所定の画像処理(所謂現像処理)を施すことで出力画像を生成する。図1に示す例では、現像処理部111は、生成した当該出力画像を出力部193に逐次出力する。これにより、当該出力画像が出力部193を介してユーザ(例えば、医師)に提示される。
以上、図1を参照して、通常観察モードで動作する場合における、本実施形態に係る医療用観察システムの機能構成の一例について説明した。
続いて、図2を参照して、差分表示モードで動作する場合における、本実施形態に係る医療用観察システムの機能構成の一例について説明する。図2は、本実施形態に係る医療用観察システムの機能構成の一例について示した機能ブロック図であり、差分表示モードで動作する場合の機能構成の一例を示している。
図2に示すように、医療用観察システム11bは、撮像部191と、信号処理部110bと、出力部193とを含む。なお、撮像部191と、出力部193とについては、図1に示す例と同様のため詳細な説明は省略する。また、信号処理部110が、「画像処理部」の一例に相当する。また、当該信号処理部110を含む装置が、「医療用画像処理装置」の一例に相当する。
図2に示すように、信号処理部110bは、現像処理部111と、動き推定部112と、差分抽出部113と、加算部114と、フレームメモリ115と、位置合わせ処理部116とを含む。なお、現像処理部111については、図1に示す例と実質的に同様のため詳細な説明は省略する。
動き推定部112は、現像処理部111から出力される、互いに異なるタイミングでの撮像結果それぞれに応じた複数の画像間(例えば、異なるフレームでの撮像結果に応じた画像間)を比較することで、撮像部191と被写体(例えば、観察対象となる患部)との間の一方に対する他方の相対的な動き(換言すると、画像中の患部の動き)を推定する。具体的な一例として、動き推定部112は、複数の画像間において所定の単位データごとに(例えば、画素単位で)、当該複数の画像それぞれに対応するタイミング間(例えば、フレーム間)における動きベクトル(即ち、動きの方向及び変化量)を算出する。動きの推定方法としては、例えば、ブロックマッチング法や勾配法等が挙げられる。また、動き推定部112は、複数の動き推定方法それぞれに基づき画像間における画像中の患部の動きを推定し、それぞれの推定結果を組み合わせることで動き推定の精度を向上させてもよい。そして、動き推定部112は、画像中の患部の動きの推定結果を、差分抽出部113及び位置合わせ処理部116に出力する。
差分抽出部113は、動き推定部112から出力される画像中の患部の動きの推定結果に基づき、現像処理部111から出力される、互いに異なるタイミングそれぞれでの撮像結果に応じた複数の画像間の差分を算出(抽出)することで差分画像を生成する。なお、以降の説明では、便宜上、現フレームでの撮像結果に応じた画像(以下、「現フレーム画像」とも称する)と、当該現フレームよりも前のフレームで撮像された画像(以下、「前フレーム画像」とも称する)と、を対象として差分画像が生成されるものとする。
具体的な一例として、差分抽出部113は、画像中の患部の動きの推定結果に基づき前フレーム画像を画素単位でシフトさせる(即ち、補正する)ことで、現フレーム画像と当該前フレーム画像と、の間で画像間の位置合わせを行う。そして、差分抽出部113は、位置合わせ後の現フレーム画像と前フレーム画像との間の差分(例えば、フレーム間差分)を算出(抽出)し、当該差分の算出結果に応じた差分画像を生成する。
以上のようにして、差分抽出部113は、現像処理部111から逐次出力される画像(例えば、蛍光画像)に基づき差分画像を生成し、当該差分画像を加算部114に出力する。
フレームメモリ115は、後述する加算部114から出力される出力画像を一時的に保持する。フレームメモリ115に保持された出力画像は、後述する位置合わせ処理部116により所望のタイミングで読み出される。
また、フレームメモリ115は、所定のトリガに基づき、当該トリガを受け付けるまでに保持された出力画像を、位置合わせ処理部116への出力対象から除外する。具体的な一例として、所定のトリガに基づき、当該トリガを受け付けるまでに保持された出力画像を破棄することで、当該出力画像を位置合わせ処理部116への出力対象から除外してもよい。また、フレームメモリ115は、上記トリガを受け付けるまでに保持された出力画像を、別途保持することで、当該出力画像を位置合わせ処理部116への出力対象から除外してもよい。これにより、別途保持された過去の出力画像と、新たにフレームメモリ115に保持される出力画像と、の双方を出力対象とすることも可能となる。
なお、上記トリガが発生するタイミングや、当該トリガの種別は特に限定されない。例えば、医療用観察システム11の動作モードの変更をトリガとして、フレームメモリ115が保持された出力画像を位置合わせ処理部116への出力対象から除外してもよい。より具体的な一例として、フレームメモリ115は、差分表示モードへの遷移をトリガとして、当該トリガを受け付けるまでに保持された出力画像を、位置合わせ処理部116への出力対象から除外してもよい。なお、フレームメモリ115が、「記憶部」の一例に相当する。
位置合わせ処理部116は、フレームメモリ115に保持された出力画像(即ち、過去の出力画像)を読み出し、動き推定部112から出力される画像中の患部の動きの推定結果に基づき、当該出力画像をシフトさせる(即ち、補正する)。そして、位置合わせ処理部116は、シフト後の当該出力画像を加算部114に出力する。これにより、差分抽出部113から加算部114に出力される差分画像と、位置合わせ処理部116から加算部114に出力される過去の出力画像と、の間で位置合わせが行われる。
加算部114は、差分抽出部113から出力される差分画像と、位置合わせ処理部116から出力される過去の出力画像と、を加算することで新たに出力画像(即ち、現フレームに対応する出力画像)を生成する。そして、加算部114は、生成した出力画像を出力部193に出力させる。また、加算部114は、当該出力画像をフレームメモリ115に保持させる。即ち、フレームメモリ115に保持された当該出力画像が、上述の通り、過去の出力画像として以降に生成された差分画像と加算され、新たな出力画像が生成されることとなる。このように、図2に示す例では、上記差分画像がフレームメモリ115に蓄積され、当該蓄積結果に応じた出力画像が出力部193を介して出力される。なお、差分抽出部113から出力される差分画像が「第1の差分画像」の一例に相当し、フレームメモリ115に蓄積された差分画像が「第2の差分画像」の一例に相当する。
以上、図2を参照して、差分表示モードで動作する場合における、本実施形態に係る医療用観察システムの機能構成の一例について説明した。
なお、上記はあくまで一例であり、上述した各機能を実現することが可能であれば、医療用観察システム11の機能構成は必ずしも図1及び図2に示す例には限定されない。具体的な一例として、医療用観察システム11の各構成のうち2以上の構成が一体的に構成されていてもよい。また、他の一例として、信号処理部110の各構成のうち一部の構成が当該信号処理部110の外部に設けられていてもよい。また、信号処理部110のうち、現像処理部111のように画像信号に基づく画像の生成に係る構成が信号処理部110の外部に設けられていてもよい。
また、図1及び図2では図示していないが、医療用観察システム11は、患者へ投与される薬剤に応じた波長帯域に属する光を射出する光源を含んでもよい。具体的な一例として、当該光源は、患者へ投与される蛍光薬剤に含まれる蛍光物質の励起光を射出可能に構成されていてもよい。このような構成により、当該光源より射出された光により蛍光薬剤に含まれる蛍光物質を励起させることで、当該蛍光物質に蛍光を発光させることが可能となる。
また、医療用観察システム11は、通常観察モードでの動作時に出力される蛍光画像と、差分観察モードでの動作時に出力される蛍光画像と、の双方を出力可能に構成されていてもよい。この場合には、例えば、図2に示す医療用観察システム11において、現像処理部111から出力される画像を別途出力画像として出力部193に出力させればよい。
<2.2.信号処理>
次いで、本実施形態に係る医療用観察システムにおける画像信号に対する信号処理(即ち、画像処理)の一例について、図3及び図4を参照してより詳細に説明する。図3及び図4は、本実施形態に係る医療用観察システムにおける画像信号に対する信号処理の一例について概要を説明するための説明図である。
例えば、図3は、蛍光観察が行われる状況下で互いに異なるタイミングで蛍光薬剤が複数回投与される場合における、画像中の所定の一部(例えば、所定の画素)の時系列に沿った輝度変化(即ち、蛍光強度の変化)を模式的に示している。図3に示す例では、横軸が時間を示し、縦軸が輝度値(即ち、蛍光強度)を示している。即ち、図3に示すグラフは、画像中の所定の領域(以降では、便宜上「注目画素」とも称する)における蛍光強度の時系列に沿った変化を示している。また、図3において、タイミングt1は、1回目の蛍光薬剤の投与の検知結果に応じたタイミングを示しており、理想的には1回目の蛍光薬剤が投与されたタイミングに相当する。また、タイミングt2は、2回目の蛍光薬剤の投与の検知結果に応じたタイミングを示しており、理想的には2回目の蛍光薬剤が投与されたタイミングに相当する。また、タイミングt3は、2回目の蛍光薬剤の投与結果に応じた蛍光画像の出力タイミングを示している。
図3に示すように、タイミングt1において1回目の蛍光薬剤の投与が行われると、蛍光物質の拡散に伴い注目画素に対応する領域(例えば、注目部位)に当該蛍光物質が流れ込むことで、当該注目画素における蛍光強度Iが時系列に沿って増加する。また、注目画素に対応する領域(注目部位)からの蛍光物質の放出(ウォッシュアウト)の開始に伴い、当該注目画素における蛍光強度Iが時系列に沿って低下する。次いで、タイミングt2において2回目の蛍光薬剤の投与が行われると、新たに投与された蛍光物質の拡散に伴い、注目画素における蛍光強度Iが再度時系列に沿って増加する。なお、図3において、参照符号I1は、タイミングt2における注目画素の蛍光強度を示している。即ち、タイミングt2以降において蛍光強度I1を超えた成分が、2回目に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の検出結果に起因した蛍光強度の変化分となる。
一方で、図3に示す例のように、2回目の蛍光薬剤の投与が行われたタイミングt2以降においては、1回目に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の検出結果が顕在化している。即ち、通常観察モードでの動作時には、タイミングt2以降において、蛍光強度I1を基点として、新たに投与された蛍光物質が発する蛍光の検出結果に応じた蛍光強度がさらに上乗せされることとなる。即ち、1回目に投与された蛍光物質が発する蛍光の検出結果の影響により画面全体がより明るくなり、結果として視認性が低下する場合がある。
これに対して、前述したように、差分表示モードでの動作時には、例えば、所定のトリガに基づきフレームメモリ115に保持された出力画像が破棄される(即ち、フレームメモリ115がリセットされる)。例えば、図3に示す例の場合には、2回目の蛍光薬剤の投与の検出結果に基づき、タイミングt2においてフレームメモリ115がリセットされたものとする。この場合には、タイミングt2以降において蛍光強度I1を超えた成分に基づき出力画像が生成されることとなる。
具体的には、フレーム間における蛍光強度の変化をΔIとした場合に、タイミングt2からタイミングt3までの蛍光強度の変化分は、以下に(式1)として示す計算式で表される。
Figure 0007480779000001
以上の通り、差分表示モードでの動作時には、2回目の蛍光薬剤の投与後に出力される画像は、上述し(式1)に基づき生成されることとなる。即ち、この場合には、タイミングt2以降において蛍光強度I1を超えた成分に基づく出力画像が提示されることとなる。
ここで、図4を参照して、通常観察モード及び差分表示モードそれぞれにおいて提示される出力画像の一例について説明する。図4において、参照符号V101は、1回目の蛍光薬剤投与直後の出力画像(蛍光画像)、即ち、図3に示すタイミングt1における出力画像を模式的に示している。また、参照符号V103は、2回目の蛍光薬剤投与直前の出力画像(蛍光画像)、即ち、図3に示すタイミングt2の直前における出力画像を模式的に示している。
また、参照符号V105は、通常観察モードでの動作時における、2回目の蛍光薬剤投与直後の出力画像(蛍光画像)、即ち、図3に示すタイミングt2の直後における出力画像を模式的に示している。また、参照符号V107は、通常観察モードでの動作時における、2回目の蛍光薬剤投与後に出力される出力画像(蛍光画像)、即ち、図3に示すタイミングt3において出力される出力画像を模式的に示している。
通常観察モードでの動作時には、2回目の蛍光薬剤の投与が行われると、当該投与直前の出力画像V103をベースとして、新たに投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の検出結果(蛍光強度)が上乗せされる。即ち、以降に出力される出力画像V105及びV107は、1回目の蛍光薬剤の投与に応じた蛍光の検出結果が残留するため、出力画像V103に比べて画像全体がより明るくなり、例えば、図4に示すように画像全体にわたって白みがかった画像となる。これにより、通常観察モードでの動作時には、2回目の蛍光薬剤の投与後に提示される出力画像は、例えば、コントラストの低下や白飛び等が生じ、視認性が低下する場合がある。
これに対して、参照符号V109は、差分表示モードでの動作時における、2回目の蛍光薬剤投与直後の出力画像(蛍光画像)、即ち、図3に示すタイミングt2の直後における出力画像を模式的に示している。また、参照符号V111は、差分表示モードでの動作時における、2回目の蛍光薬剤投与後に出力される出力画像(蛍光画像)、即ち、図3に示すタイミングt3において出力される出力画像を模式的に示している。
図3及び図4に示す例において、差分表示モードでの動作時には、出力画像V109として示すように、2回目の蛍光薬剤投与のタイミングでフレームメモリ115がリセットされる。そのため、この場合には、2回目の蛍光薬剤投与後に蛍光強度が増加した部分における蛍光の検出結果が出力画像中に反映されることとなる。これにより、出力画像V111として示すように、2回目の蛍光薬剤投与後の観察時においても、1回目の蛍光薬剤投与後の観察時と同等の視認性を確保することが可能となる。
なお、本開示においては、複数回にわたり薬剤が投与される場合において、先に投与される薬剤が「第1の薬剤」の一例に相当し、当該第1の薬剤よりも後に投与される薬剤が「第2の薬剤」の一例に相当する。具体的には、図3及び図4に示す例では、タイミングt1において投与される蛍光薬剤が「第1の薬剤」の一例に相当し、タイミングt2において投与される蛍光薬剤が「第2の薬剤」に相当する。なお、図3に示す例では、第1の薬剤と第2の薬剤とが同じ種類の薬剤である場合を想定しているが、第1の薬剤と第2の薬剤とが異なる種類の薬剤であってもよい。また、第1の薬剤が投与されたタイミングから第2の薬剤が投与されたタイミングまでの間に撮像された蛍光画像が「第1の蛍光画像」の一例に相当し、当該第2の薬剤が投与されたタイミング以降に撮像された蛍光画像が「第2の蛍光画像」の一例に相当する。具体的には、図4に示す例において、蛍光画像V103が「第1の蛍光画像」の一例に相当し、蛍光画像V111が「第2の蛍光画像」の一例に相当する。即ち、本実施形態に係る医療用観察システムに依れば、出力画像として、第2の薬剤(例えば、2回目以降に投与された蛍光薬剤)により生じる蛍光が強調された蛍光画像V111を生成することが可能である。
なお、図3に示す例において、フレームメモリ115のリセットのトリガとなる、蛍光薬剤が投与されたタイミングの検出方法については特に限定はされない。具体的な一例として、蛍光薬剤の投与にあわせてユーザにより所定の操作が行われる場合には、信号処理部110は、当該操作を検出することで、当該蛍光薬剤が投与されたタイミングを検出してもよい。
また、他の一例として、信号処理部110は、撮像部191による撮像結果に応じた画像(蛍光画像)に対して画像解析を施すことで、蛍光薬剤が投与されたタイミングを検出してもよい。具体的な一例として、図3に示す例の場合には、輝度値(蛍光強度)の立ち上がりを検出することで、1回目の蛍光薬剤投与のタイミングt1を検出することが可能である。また、輝度値の変化の極小値、即ち、時系列に沿って低下する輝度値が再度上昇を開始するタイミングを検出することで、2回目以降の蛍光薬剤投与のタイミング(例えば、2回目の薬剤投与のタイミングt2)を検出することが可能である。なお、上述した時系列に沿って低下する輝度値が再度上昇を開始するタイミングが、「第1のタイミング」の一例に相当する。
もちろん、上記はあくまで一例であり、信号処理部110が蛍光薬剤投与のタイミングを検出することが可能であれば、その方法は特に限定されない。また、上記では蛍光観察が行われる場合の一例について説明したが、蛍光観察以外の観察方法が適用される場合においても、使用される薬剤が投与されるタイミングを検出することが可能であればその方法は特に限定されず、観察方法や使用される薬剤に応じて検出方法が選択的に切り替えられてもよい。また、上記はあくまで一例であり、必ずしも本実施形態に係る医療用観察システムの機能を限定するものではない。例えば、上記第1の蛍光画像や上記第2の蛍光画像に相当する画像の取得に際し、必ずしも上記第1の薬剤や上記第2の薬剤が投与されたタイミングの検出が明示的に行われなくてもよい。具体的な一例として、図3に示す例において、蛍光強度が上昇から下降に遷移し、再び上昇するまでの撮像結果に応じた画像(蛍光画像)を第1の蛍光画像とすることで、薬剤投与のタイミングを明示的に検出しなくとも、出力画像を生成することが可能である。
また、上述した例では、同じ種類の蛍光薬剤を複数回投与する場合の例について説明したが、必ずしも本実施形態に係る医療用観察システムの適用範囲を限定するものではなく、例えば、複数種類の蛍光薬剤が観察ごとに個別に投与されてもよい。即ち、複数種類の蛍光薬剤それぞれに含まれる蛍光物質が発する蛍光それぞれを検出することが可能であれば、複数回に分けて行われる観察ごとに、当該複数種類の蛍光薬剤のうちのいずれかの蛍光薬剤を選択的に使用することも可能である。
また、図4に示す例において、2回目の蛍光薬剤投与のタイミングで、フレームメモリ115に保持された蛍光画像V103が破棄されずに別途保持されてもよい。このような構成とすることで、2回目の蛍光薬剤投与前の蛍光画像V103と、2回目の蛍光薬剤投与後の蛍光画像V111と、のそれぞれを比較可能に出力することも可能となる。
以上、本実施形態に係る医療用観察システムにおける画像信号に対する信号処理(即ち、画像処理)の一例について、図3及び図4を参照してより詳細に説明した。
<2.3.処理の流れ>
続いて、本実施形態に係る医療用観察システムの一連の処理の流れの一例について、特に信号処理部の処理に着目して説明する。例えば、図5は、本実施形態に係る医療用観察システムの一連の処理の流れの一例について示したフローチャートであり、特に、蛍光薬剤の投与と、蛍光観察と、が繰り返し実行される場合の動作の一例について示している。
図5に示すように、信号処理部110は、1回目の蛍光薬剤の投与が検出されると(S101)、撮像部191による撮像結果に応じた蛍光画像に基づき出力画像を生成し、当該出力画像を出力部193に出力させる(S103)。これにより、1回目に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の検出結果に応じた蛍光画像が出力部193を介して提示される。
次いで、信号処理部110は、n回目(2回目以降)の蛍光薬剤の投与が検出されると(S105)、動作モードが差分表示モードの場合には(S107、YES)、フレームメモリ115をリセットする(S109)。この場合には、信号処理部110は、当該リセット後における蛍光の検出結果に応じた出力画像、即ち、n回目に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の検出結果に応じた出力画像を提示する(S111)。具体的な一例として、図4に示す例における出力画像V111が、この場合に提示される出力画像の一例に相当する。
一方で、信号処理部110は、動作モードが通常モードの場合には(S107、NO)、フレームメモリ115のリセット(S109)は行わない。この場合には、信号処理部110は、通常モードでの動作中における一連の蛍光薬剤の投与に伴う蛍光の検出結果が反映された出力画像を提示する(S111)。具体的な一例として、図4に示す例における出力画像V107が、この場合に提示される出力画像の一例に相当する。
なお、図5に示す例では明示されていないが、動作モードについては所望の契機で適宜切り替えられてもよく、当該動作モードの切り替え方法についても特に限定はされない。具体的な一例として、信号処理部110は、n回目(2回目以降)の蛍光薬剤投与の検出時(S015)に、動作モードが通常観察モードの場合には、当該動作モードを差分表示モードに切り替えてもよい。また、動作モードが切り替えられた場合においても、信号処理部110は、参照符号S107で示された処理の実行タイミングにおける動作モードの設定に応じて、フレームメモリ115のリセット(S109)を行うか否かを切り替えればよい。これにより、そのときの動作モードの設定に応じた出力画像が提示されることとなる。
信号処理部110は、観察の終了が指示されない限り(S113、NO)、参照符号S105~S111で示した一連の処理を繰り返し実行する。そして、信号処理部110は、観察の終了が指示されると(S113、YES)、図5に示す一連の処理の実行を終了する。
以上、図5を参照して、本実施形態に係る医療用観察システムの一連の処理の流れの一例について、特に信号処理部の処理に着目して説明した。
<2.4.実施例>
続いて、本実施形態に係る医療用観察システムの実施例について説明する。例えば、図6は、本実施形態に係る医療用観察システムの実施例について説明するための説明図であり、蛍光物質としてICGを利用した蛍光観察により、腸の吻合の前後における血流評価を行う場合の一例について示している。
具体的には、図6の上図に示すように、まず腸の吻合前に1回目の蛍光薬剤の投与が行われ、当該投与後における蛍光の検出結果に応じた蛍光画像V200に基づき、吻合前における血流の評価が行われる。例えば、参照符号V201は、1回目に投与された蛍光薬剤に含まれるICGが発する蛍光の検出結果(以降では、便宜上「1回目の蛍光成分」とも称する)が検出された領域を模式的に示している。即ち、蛍光画像V200中に提示された1回目の蛍光成分に対応する領域V201により、血行状態(例えば、血流がどこまで到達しているか)の確認が行われ、当該確認の結果に応じて吻合箇所が決定される。
続いて、吻合後に2回目の蛍光薬剤の投与が行われ、当該投与後における蛍光の検出結果に応じた蛍光画像に基づき、吻合後における血流の評価が行われる。
例えば、図6左下図に示す蛍光画像V210は、通常観察モードでの動作時において2回目の蛍光薬剤の投与後に提示される出力画像の一例を示している。具体的には、参照符号V211は、吻合箇所を模式的に示している。また、参照符号V213は、1回目の蛍光成分に対応する領域を模式的に示している。これに対して、参照符号V215は、2回目に投与された蛍光薬剤に含まれるICGが発する蛍光の検出結果(以降では、便宜上「2回目の蛍光成分」とも称する)が検出された領域を模式的に示している。即ち、通常観察モードで提示される蛍光画像V210においては、当該蛍光画像V210中に1回目の蛍光成分が残留するうえに、対応する領域V213において蛍光強度が加算されることとなる。このような特性から、蛍光画像V210中のどの部分が2回目の蛍光成分に対応する領域かを判別することが困難となり、ひいては、1回目の蛍光薬剤の投与時(即ち、吻合前)と、2回目の蛍光薬剤の投与時(即ち、吻合後)と、を比較することが困難となる場合がある。
これに対して、図6の右下図に示す蛍光画像V220は、差分表示モードでの動作時において2回目の蛍光薬剤の投与後に提示される出力画像の一例を示している。具体的には、参照符号V221は、吻合箇所を模式的に示している。また、参照符号V223は、2回目の蛍光成分に対応する領域を模式的に示している。即ち、差分表示モードで提示される蛍光画像V220においては、1回目の蛍光成分の影響が抑制されるため、2回目の蛍光成分に対応する領域V223を、1回目の蛍光薬剤の投与後に提示される蛍光画像V200と同等の視認性で視認することが可能となる。このような特性から、差分表示モードでの動作時には、1回目の蛍光薬剤の投与時(即ち、吻合前)と、2回目の蛍光薬剤の投与時(即ち、吻合後)と、を容易に比較することが可能となる。
以上、図6を参照して、本実施形態に係る医療用観察システムの実施例について説明した。
<2.5.変形例>
続いて、本実施形態に係る医療用観察システムの変形例として、当該医療用観察システムの機能構成の他の一例について説明する。
(変形例1)
まず、図7を参照して、変形例1に係る医療用観察システムの構成の一例について説明する。図7は、変形例1に係る医療用観察システムの機能構成の一例を示したブロック図である。なお、以降の説明では、本変形例に係る医療用観察システムを特に示す場合には、便宜上「医療用観察システム12」とも称する。
図7に示すように、医療用観察システム12は、撮像部191と、信号処理部120と、出力部193とを含む。なお、出力部193については、図1及び図2に示す例における出力部193と実質的に同様のため詳細な説明は省略する。
撮像部191は、所謂2板カメラとして構成されており、入射光を可視光と蛍光材料が発する蛍光(例えば、ICGの場合には赤外光)とに分離し、それぞれの光を互いに異なるイメージセンサにより検知することで、各光の検知結果を個別に出力する。なお、入射光を可視光と蛍光とに分離するための構成は特に限定されない。具体的な一例として、ダイクロイック膜のような波長特性に応じて入射光を分離する光学膜を利用して構成された色分解光学系を利用することで、入射光を可視光と蛍光とに分離してもよい。以上のような構成に基づき、撮像部191からは、信号処理部120に対して蛍光画像と可視光画像とが個別に出力される。
信号処理部120は、現像処理部121及び122と、動き推定部123と、差分抽出部124と、加算部125と、フレームメモリ126と、位置合わせ処理部127とを含む。なお、現像処理部121、差分抽出部124、加算部125、フレームメモリ126、及び位置合わせ処理部127については、図2に示す例における、現像処理部111、差分抽出部113、加算部114、フレームメモリ115、及び位置合わせ処理部116と実質的に同様であるため詳細な説明は省略する。
現像処理部122は、所定の単位期間(例えば、フレーム)ごとに撮像部191から出力される可視光の検知結果に応じた画像信号に対して所定の画像処理(所謂現像処理)を施すことで可視光画像を生成する。そして、現像処理部122は、上記画像処理に基づき生成した可視光画像を動き推定部123に出力する。
動き推定部123は、現像処理部122から出力される可視光画像に基づき、撮像部191と被写体(例えば、観察対象となる患部)との間の一方に対する他方の相対的な動き(換言すると、画像中の患部の動き)を推定する。なお、動き推定部123が、画像中の患部の動きを推定する方法については、当該推定に利用される画像の種類が異なる点を除けば、図2に示す例における動き推定部112と同様のため詳細な説明は省略する。そして、動き推定部123は、画像中の患部の動きの推定結果を、差分抽出部124及び位置合わせ処理部127に出力する。
以上のように、本変形例に係る医療用観察システム12では、使用される薬剤(例えば、蛍光薬剤)に応じた第1の波長帯域に属する光(例えば、蛍光)を撮像対象とした患部の撮像結果に応じて出力画像(例えば、蛍光画像)が生成される。これに対して、上記第1の波長帯域とは異なる第2の波長帯域に属する光(例えば、可視光)を撮像対象とした患部の撮像結果に応じて、画像中の患部の動きが推定される。可視光画像は、蛍光画像に比べて被写体(患部)をより鮮明に認識することが可能な傾向にある。このような特性から、当該可視光画像を画像中の患部の動きの推定に利用することで、蛍光画像を利用する場合に比べて、当該推定の精度をより向上させることが可能となる。
なお、上記はあくまで一例であり、必ずしも本変形例に係る医療用観察システム12の構成を限定するものではない。具体的な一例として、蛍光画像及び可視光画像のように、互いに異なる波長帯域に属する光を撮像対象とした画像を個別に撮像することが可能であれば、撮像部191の構成は上述した所謂2板カメラの例には限定されない。具体的な一例として、撮像部191が、蛍光画像及び可視光画像を時分割で撮像するように構成されていてもよい。
以上、図7を参照して、変形例1に係る医療用観察システムの構成の一例について説明した。
(変形例2)
続いて、図8を参照して、変形例2に係る医療用観察システムの構成の一例について説明する。図8は、変形例2に係る医療用観察システムの機能構成の一例を示したブロック図である。なお、以降の説明では、本変形例に係る医療用観察システムを特に示す場合には、便宜上「医療用観察システム13」とも称する。
図7に示すように、医療用観察システム12は、撮像部191と、信号処理部130と、出力部193とを含む。なお、撮像部191及び出力部193については、図1及び図2に示す例における撮像部191及び出力部193と実質的に同様のため詳細な説明は省略する。
信号処理部130は、現像処理部131と、フレームメモリ132と、動き推定部133と、位置合わせ処理部134と、差分抽出部135とを含む。なお、現像処理部131については、図1及び図2に示す例における現像処理部111と実質的に同様のため詳細な説明は省略する。
現像処理部131は、所定の単位期間(例えば、フレーム)ごと現像結果に応じた画像(蛍光画像)を、動き推定部133及び差分抽出部135に出力する。なお、以降の説明では、便宜上、現像処理部131は、フレームごとに蛍光画像を出力するものとする。
また、本変形例に係る医療用観察システム13においては、所定のトリガが受け付けられたタイミングで現像処理部131から出力される蛍光画像がフレームメモリ132に保持される。なお、以降の説明では、フレームメモリ132に保持される蛍光画像を「基準フレーム画像」とも称する。また、現像処理部131から動き推定部133及び差分抽出部135に対してその時々で逐次出力される蛍光画像を「現フレーム画像」とも称する。即ち、基準フレーム画像は、現像処理部131から現フレーム画像が出力される以前のフレームにおいて、当該現像処理部131から出力される蛍光画像に相当する。即ち、本変形例においては、基準フレームが「第1の蛍光画像」の一例に相当し、現フレーム画像が「第2の蛍光画像」の一例に相当する。
動き推定部133は、現像処理部131から出力される現フレーム画像と、フレームメモリ132に保持された基準フレーム画像と、を比較することで、撮像部191と被写体(例えば、観察対象となる患部)との間の一方に対する他方の相対的な動き(換言すると、画像中の患部の動き)を推定する。即ち、このとき推定される画像中の患部の動きは、基準フレーム画像が撮像されたタイミングと、現フレーム画像が撮像されたタイミングと、の間の期間において変化した撮像部191と被写体との間の位置及び姿勢の関係に基づくこととなる。そして、動き推定部133は、画像中の患部の動きの推定結果を、位置合わせ処理部134に出力する。
位置合わせ処理部134は、フレームメモリ132に保持された基準フレーム画像を読み出し、動き推定部133から出力される画像中の患部の動きの推定結果に基づき、当該基準フレーム画像をシフトさせる。そして、位置合わせ処理部134は、シフト後の当該基準フレーム画像を差分抽出部135に出力する。これにより、現フレーム画像と基準フレーム画像との間で位置合わせが行われる。
差分抽出部135は、現像処理部131から出力される現フレーム画像と、位置合わせ処理部134から出力される位置合わせ後の基準フレーム画像と、の間の差分を算出(抽出)し、当該差分の算出結果に応じた差分画像を生成する。そして、差分抽出部135は、生成した当該差分画像を出力部193に出力させる。
以上のようにして提示される差分画像は、現フレーム画像中に顕在化した、基準フレーム画像として撮像されている蛍光の成分の影響が抑制された画像となる。このような特性を利用し、例えば、蛍光薬剤の投与と、蛍光観察と、が繰り返し実行される状況下において、2回目以降の蛍光薬剤の投与のタイミングで基準フレーム画像が保持されるように制御してもよい。このような制御により、以前に投与された蛍光薬剤に含まれる蛍光物質が発する蛍光の影響が抑制された蛍光画像(例えば、図4に示す蛍光画像V111)を、出力部193を介して出力することも可能となる。
なお、上記はあくまで一例であり、必ずしも本変形例に係る医療用観察システム12の構成を限定するものではない。具体的な一例として、本変形例に係る医療用観察システム13と、前述した変形例2に係る医療用観察システム12と、を組み合わせることも可能である。即ち、本変形例に係る医療用観察システム13において、画像中の患部の動きの推定に可視光画像が利用されてもよい。この場合には、蛍光画像とは別に可視光画像についても基準フレーム画像をフレームメモリ132に別途保持され、現フレーム画像(可視光画像)と当該基準フレーム画像との比較に基づき、画像中の患部の動きが推定されればよい。
以上、図8を参照して、変形例2に係る医療用観察システムの構成の一例について説明した。
<<3.ハードウェア構成の一例>>
続いて、図9を参照しながら、本実施形態に係る医療用観察システムにおいて、各種処理を実行する情報処理装置(例えば、図1及び図2に示す信号処理部110等)のハードウェア構成の一例について、詳細に説明する。図9は、本開示の一実施形態に係る医療用観察システムを構成する情報処理装置のハードウェア構成の一構成例を示す機能ブロック図である。
本実施形態に係る医療用観察システムを構成する情報処理装置900は、主に、CPU901と、ROM902と、RAM903と、を備える。また、情報処理装置900は、更に、ホストバス907と、ブリッジ909と、外部バス911と、インタフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
CPU901は、演算処理装置及び制御装置として機能し、ROM902、RAM903、ストレージ装置919又はリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置900内の動作全般又はその一部を制御する。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。なお、図1及び図2に示す信号処理部110の各構成、即ち、現像処理部111と、動き推定部112と、差分抽出部113と、加算部114、及び位置合わせ処理部116は、CPU901による実現され得る。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。また、外部バス911には、インタフェース913を介して、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923及び通信装置925が接続される。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、レバー及びペダル等、ユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、情報処理装置900の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。情報処理装置900のユーザは、この入力装置915を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置917は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音声出力装置や、プリンタ装置等がある。出力装置917は、例えば、情報処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、情報処理装置900が行った各種処理により得られた結果を、テキスト又はイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。なお、図1及び図2に示す出力部193は、出力装置917により実現され得る。
ストレージ装置919は、情報処理装置900の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ等を格納する。なお、図1及び図2に示すフレームメモリ115は、ストレージ装置919及びRAM903のいずれか、またはこれらの組み合わせにより実現され得る。
ドライブ921は、記録媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM903に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD-DVDメディア又はBlu-ray(登録商標)メディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CF:CompactFlash(登録商標))、フラッシュメモリ又はSDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)又は電子機器等であってもよい。
接続ポート923は、情報処理装置900に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS-232Cポート、光オーディオ端子、HDMI(登録商標)(High-Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、情報処理装置900は、外部接続機器929から直接各種のデータを取得したり、外部接続機器929に各種のデータを提供したりする。
通信装置925は、例えば、通信網(ネットワーク)931に接続するための通信デバイス等で構成された通信インタフェースである。通信装置925は、例えば、有線若しくは無線LAN(Local Area Network)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線又は無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信又は衛星通信等であってもよい。
以上、本開示の実施形態に係る医療用観察システムを構成する情報処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。なお、図9では図示しないが、医療用観察システムを構成する情報処理装置900に対応する各種の構成を当然備える。
なお、上述のような本実施形態に係る医療用観察システムを構成する情報処理装置900の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。また、当該コンピュータプログラムを実行させるコンピュータの数は特に限定されない。例えば、当該コンピュータプログラムを、複数のコンピュータ(例えば、複数のサーバ等)が互いに連携して実行してもよい。
<<4.応用例>>
続いて、本開示の一実施形態に係る医療用観察システムの応用例について説明する。
<4.1.応用例1:顕微鏡撮像システム>
まず、応用例1として、図10を参照して、本開示の一実施形態に係る医療用観察システムを、顕微鏡ユニットを備えた顕微鏡撮像システムとして構成した場合の一例について説明する。
図10は、本開示の一実施形態に係る医療用観察システムの応用例について説明するための説明図であり、顕微鏡撮像システムの概略的な構成の一例について示している。具体的には、図10には、本開示の一実施形態に係る顕微鏡撮像システムが用いられる場合の一適用例として、アームを備えた手術用ビデオ顕微鏡装置が用いられる場合の一例について示されている。
例えば、図10は、手術用ビデオ顕微鏡装置を用いた施術の様子を模式的に表している。具体的には、図10を参照すると、施術者(ユーザ)520である医師が、例えばメス、鑷子、鉗子等の手術用の器具521を使用して、施術台830上の施術対象(患者)540に対して手術を行っている様子が図示されている。なお、以下の説明においては、施術とは、手術や検査等、ユーザ520である医師が施術対象540である患者に対して行う各種の医療的な処置の総称であるものとする。また、図10に示す例では、施術の一例として手術の様子を図示しているが、手術用ビデオ顕微鏡装置510が用いられる施術は手術に限定されず、他の各種の施術であってもよい。
施術台830の脇には手術用ビデオ顕微鏡装置510が設けられる。手術用ビデオ顕微鏡装置510は、基台であるベース部511と、ベース部511から延伸するアーム部512と、アーム部512の先端に先端ユニットとして接続される撮像ユニット515とを備える。アーム部512は、複数の関節部513a、513b、513cと、関節部513a、513bによって連結される複数のリンク514a、514bと、アーム部512の先端に設けられる撮像ユニット515を有する。図10に示す例では、簡単のため、アーム部512は3つの関節部513a~513c及び2つのリンク514a、514bを有しているが、実際には、アーム部512及び撮像ユニット515の位置及び姿勢の自由度を考慮して、所望の自由度を実現するように関節部513a~513c及びリンク514a、514bの数や形状、関節部513a~513cの駆動軸の方向等が適宜設定されてもよい。
関節部513a~513cは、リンク514a、514bを互いに回動可能に連結する機能を有し、関節部513a~513cの回転が駆動されることにより、アーム部512の駆動が制御される。ここで、以下の説明においては、手術用ビデオ顕微鏡装置510の各構成部材の位置とは、駆動制御のために規定している空間における位置(座標)を意味し、各構成部材の姿勢とは、駆動制御のために規定している空間における任意の軸に対する向き(角度)を意味する。また、以下の説明では、アーム部512の駆動(又は駆動制御)とは、関節部513a~513cの駆動(又は駆動制御)、及び、関節部513a~513cの駆動(又は駆動制御)を行うことによりアーム部512の各構成部材の位置及び姿勢が変化される(変化が制御される)ことをいう。
アーム部512の先端には、先端ユニットとして撮像ユニット515が接続されている。撮像ユニット515は、撮像対象物の画像を取得するユニットであり、例えば動画や静止画を撮像できるカメラ等である。図10に示すように、アーム部512の先端に設けられた撮像ユニット515が施術対象540の施術部位の様子を撮像するように、手術用ビデオ顕微鏡装置510によってアーム部512及び撮像ユニット515の姿勢や位置が制御される。なお、アーム部512の先端に先端ユニットとして接続される撮像ユニット515の構成は特に限定されず、例えば、撮像ユニット515は、撮像対象物の拡大像を取得する顕微鏡として構成されている。また、撮像ユニット515は、当該アーム部512に対して着脱可能に構成されていてもよい。このような構成により、例えば、利用用途に応じた撮像ユニット515が、アーム部512の先端に先端ユニットとして適宜接続されてもよい。なお、当該撮像ユニット515として、例えば、前述した実施形態に係る分岐光学系が適用された撮像装置を適用することが可能である。即ち、本応用例においては、撮像ユニット515または当該撮像ユニット515を含む手術用ビデオ顕微鏡装置510が、「医療用観察装置」の一例に相当し得る。また本説明では、先端ユニットとして撮像ユニット515が適用されている場合に着目して説明したが、アーム部512の先端に接続される先端ユニットは、必ずしも撮像ユニット515に限定されない。
また、ユーザ520と対向する位置には、モニタやディスプレイ等の表示装置550が設置される。撮像ユニット515によって撮像された施術部位の画像は、表示装置550の表示画面に電子画像として表示される。ユーザ520は、表示装置550の表示画面に表示される施術部位の電子画像を見ながら各種の処置を行う。
以上のような構成により、手術用ビデオ顕微鏡装置510によって施術部位の撮像を行いながら手術を行うことが可能となる。
なお、上記に限らず、本開示の一実施形態に係る医療用観察システムの基本思想を逸脱しない範囲であれば、上述した本開示に係る技術を応用することが可能である。具体的な一例として、上述した内視鏡や施術用顕微鏡を適用したシステムに限らず、所望の形態の撮像装置により患部の画像を撮像することで、当該患部を観察可能とするシステムに対して、上述した本開示に係る技術を適宜応用することが可能である。
以上、応用例1として、図10を参照して、本開示の一実施形態に係る医療用観察システムを、顕微鏡ユニットを備えた顕微鏡撮像システムとして構成した場合の一例について説明した。
<4.2.応用例2:内視鏡手術システム>
続いて、応用例2として、図11及び図12を参照して、本開示の一実施形態に係る医療用観察システムを、内視鏡ユニットを備えた内視鏡手術システムとして構成した場合の一例について説明する。
図11及び図12は、本開示の一実施形態に係る医療用観察システムの他の応用例について説明するための説明図であり、内視鏡手術システムの概略的な構成の一例について示している。
例えば、図11は、本開示に係る技術が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。図11では、術者(医師)667が、内視鏡手術システム600を用いて、患者ベッド669上の患者671に手術を行っている様子が図示されている。図示するように、内視鏡手術システム600は、内視鏡601と、その他の術具617と、内視鏡601を支持する支持アーム装置627と、内視鏡下手術のための各種の装置が搭載されたカート637と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ625a~625dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ625a~625dから、内視鏡601の鏡筒603や、その他の術具617が患者671の体腔内に挿入される。図示する例では、その他の術具617として、気腹チューブ619、エネルギー処置具621及び鉗子623が、患者671の体腔内に挿入されている。また、エネルギー処置具621は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具617はあくまで一例であり、術具617としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡601によって撮影された患者671の体腔内の術部の画像が、表示装置641に表示される。術者667は、表示装置641に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具621や鉗子623を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ619、エネルギー処置具621及び鉗子623は、手術中に、術者667又は助手等によって支持される。
(支持アーム装置)
支持アーム装置627は、ベース部629から延伸するアーム部631を備える。図示する例では、アーム部631は、関節部633a、633b、633c、及びリンク635a、635bから構成されており、アーム制御装置645からの制御により駆動される。アーム部631によって内視鏡601が支持され、その位置及び姿勢が制御される。これにより、内視鏡601の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡601は、先端から所定の長さの領域が患者671の体腔内に挿入される鏡筒603と、鏡筒603の基端に接続されるカメラヘッド605と、から構成される。図示する例では、硬性の鏡筒603を有するいわゆる硬性鏡として構成される内視鏡601を図示しているが、内視鏡601は、軟性の鏡筒603を有するいわゆる軟性鏡として構成されてもよい。なお、カメラヘッド605または当該カメラヘッド605を含む内視鏡601が、「医療用観察装置」の一例に相当する。
鏡筒603の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡601には光源装置643が接続されており、当該光源装置643によって生成された光が、鏡筒603の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者671の体腔内の観察対象(換言すると、撮像対象物)に向かって照射される。なお、内視鏡601は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド605の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)639に送信される。なお、カメラヘッド605には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド605には撮像素子が複数設けられてもよい。この場合、鏡筒603の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU639は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡601及び表示装置641の動作を統括的に制御する。具体的には、CCU639は、カメラヘッド605から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU639は、当該画像処理を施した画像信号を表示装置641に提供する。また、CCU639は、カメラヘッド605に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置641は、CCU639からの制御により、当該CCU639によって画像処理が施された画像信号に基づく画像を表示する。内視鏡601が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置641としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置641として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置641が設けられてもよい。
光源装置643は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡601に供給する。
アーム制御装置645は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置627のアーム部631の駆動を制御する。
入力装置647は、内視鏡手術システム600に対する入力インタフェースである。ユーザは、入力装置647を介して、内視鏡手術システム600に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置647を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置647を介して、アーム部631を駆動させる旨の指示や、内視鏡601による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具621を駆動させる旨の指示等を入力する。
入力装置647の種類は限定されず、入力装置647は各種の公知の入力装置であってよい。入力装置647としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ657及び/又はレバー等が適用され得る。入力装置647としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置641の表示面上に設けられてもよい。
あるいは、入力装置647は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスに具備されたセンサでもよく、この場合、これらのセンサによって検出されるユーザの動きや視線に応じて各種の入力が行われる。また、入力装置647は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置647は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置647が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者667)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置649は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具621の駆動を制御する。気腹装置651は、内視鏡601による視野の確保及び術者の作業空間の確保の目的で、患者671の体腔を膨らめるために、気腹チューブ619を介して当該体腔内にガスを送り込む。レコーダ653は、手術に関する各種の情報を記録可能な装置である。プリンタ655は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム600において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置627は、基台であるベース部629と、ベース部629から延伸するアーム部631と、を備える。図示する例では、アーム部631は、複数の関節部633a、633b、633cと、関節部633bによって連結される複数のリンク635a、635bと、から構成されているが、図11では、簡単のため、アーム部631の構成を簡略化して図示している。実際には、アーム部631が所望の自由度を有するように、関節部633a~633c及びリンク635a、635bの形状、数及び配置、並びに関節部633a~633cの回転軸の方向等が適宜設定され得る。例えば、アーム部631は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部631の可動範囲内において内視鏡601を自由に移動させることが可能になるため、所望の方向から内視鏡601の鏡筒603を患者671の体腔内に挿入することが可能になる。
関節部633a~633cにはアクチュエータが設けられており、関節部633a~633cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置645によって制御されることにより、各関節部633a~633cの回転角度が制御され、アーム部631の駆動が制御される。これにより、内視鏡601の位置及び姿勢の制御が実現され得る。この際、アーム制御装置645は、力制御又は位置制御等、各種の公知の制御方式によってアーム部631の駆動を制御することができる。
例えば、術者667が、入力装置647(フットスイッチ657を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置645によってアーム部631の駆動が適宜制御され、内視鏡601の位置及び姿勢が制御されてよい。当該制御により、アーム部631の先端の内視鏡601を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部631は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部631は、手術室から離れた場所に設置される入力装置647を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置645は、ユーザからの外力を受け、その外力にならってスムーズにアーム部631が移動するように、各関節部633a~633cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部631に触れながらアーム部631を移動させる際に、比較的軽い力で当該アーム部631を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡601を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡601が支持されていた。これに対して、支持アーム装置627を用いることにより、人手によらずに内視鏡601の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置645は必ずしもカート637に設けられなくてもよい。また、アーム制御装置645は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置645は、支持アーム装置627のアーム部631の各関節部633a~633cにそれぞれ設けられてもよく、複数のアーム制御装置645が互いに協働することにより、アーム部631の駆動制御が実現されてもよい。
(光源装置)
光源装置643は、内視鏡601に術部を撮影する際の照射光を供給する。光源装置643は、例えばLED、レーザー光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザー光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置643において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザー光源それぞれからのレーザー光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド605の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置643は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド605の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置643は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置643は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図12を参照して、内視鏡601のカメラヘッド605及びCCU639の機能についてより詳細に説明する。図12は、図11に示すカメラヘッド605及びCCU639の機能構成の一例を示すブロック図である。
図12を参照すると、カメラヘッド605は、その機能として、レンズユニット607と、撮像部609と、駆動部611と、通信部613と、カメラヘッド制御部615と、を有する。また、CCU639は、その機能として、通信部659と、画像処理部661と、制御部663と、を有する。カメラヘッド605とCCU639とは、伝送ケーブル665によって双方向に通信可能に接続されている。
まず、カメラヘッド605の機能構成について説明する。レンズユニット607は、鏡筒603との接続部に設けられる光学系である。鏡筒603の先端から取り込まれた観察光は、カメラヘッド605まで導光され、当該レンズユニット607に入射する。レンズユニット607は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット607は、撮像部609の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部609は撮像素子によって構成され、レンズユニット607の後段に配置される。レンズユニット607を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部609によって生成された画像信号は、通信部613に提供される。
撮像部609を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサ、あるいは、CCD(Charge Coupled Device)タイプのイメージセンサであり、ベイヤ(Bayer)配列を有するカラー撮影可能なものが用いられるが、単板の白黒撮影用でもよい。白黒撮影用イメージセンサを複数枚用いてもよい。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者667は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部609を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されていてもよい。3D表示が行われることにより、術者667は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部609が多板式で構成される場合には、各撮像素子に対応して、レンズユニット607も複数系統設けられる。
また、撮像部609は、必ずしもカメラヘッド605に設けられなくてもよい。例えば、撮像部609は、鏡筒603の内部に、対物レンズの直後に設けられてもよい。
駆動部611は、アクチュエータによって構成され、カメラヘッド制御部615からの制御により、レンズユニット607のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部609による撮像画像の倍率及び焦点が適宜調整され得る。
通信部613は、CCU639との間で各種の情報を送受信するための通信装置によって構成される。通信部613は、撮像部609から得た画像信号をRAWデータとして伝送ケーブル665を介してCCU639に送信する。この際、術部の撮像画像をできるだけ遅延なく表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者667が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部613には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル665を介してCCU639に送信される。
また、通信部613は、CCU639から、カメラヘッド605の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮影時の撮像条件(シャッタースピードや絞り、ゲイン等)を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部613は、受信した制御信号をカメラヘッド制御部615に提供する。なお、CCU639からの制御信号も、光通信によって伝送されてもよい。この場合、通信部613には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部615に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU639の制御部663によって自動的に設定される。つまり、CCU639と内視鏡601によって、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が、実現される。
カメラヘッド制御部615は、通信部613を介して受信したCCU639からの制御信号に基づいて、カメラヘッド605の駆動を制御する。例えば、カメラヘッド制御部615は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時のシャッター速度や絞りを指定する旨の情報に基づいて、撮像部609の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部615は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部611を介してレンズユニット607のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部615は、更に、鏡筒603やカメラヘッド605を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット607や撮像部609等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド605について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU639の機能構成について説明する。通信部659は、カメラヘッド605との間で各種の情報を送受信するための通信装置によって構成される。通信部659は、カメラヘッド605から、伝送ケーブル665を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部659には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部659は、電気信号に変換した画像信号を画像処理部661に提供する。
また、通信部659は、カメラヘッド605に対して、カメラヘッド605の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部661は、カメラヘッド605から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部661は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部661は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部661が複数のGPUによって構成される場合には、画像処理部661は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部663は、内視鏡601による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部663は、カメラヘッド605の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部663は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡601にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部663は、画像処理部661による検波処理の結果に応じて、最適な露出条件、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部663は、画像処理部661によって画像処理が施された画像信号に基づいて、術部の画像を表示装置641に表示させる。この際、制御部663は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部663は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具621使用時のミスト等を認識することができる。制御部663は、表示装置641に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者667に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド605及びCCU639を接続する伝送ケーブル665は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル665を用いて有線で通信が行われていたが、カメラヘッド605とCCU639との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル665を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル665によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム600の一例について説明した。なお、ここでは、一例として内視鏡手術システム600について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
なお、上記に限らず、本開示の一実施形態に係る医療用観察システムの基本思想を逸脱しない範囲であれば、上述した本開示に係る技術を応用することが可能である。具体的な一例として、上述した内視鏡や施術用顕微鏡を適用したシステムに限らず、所望の形態の撮像装置により患部の画像を撮像することで、当該患部を観察可能とするシステムに対して、上述した本開示に係る技術を適宜応用することが可能である。
また、患部の観察方法や適用される手技についても特に限定されないことは言うまでもない。例えば、動脈瘤を観察対象となる患部とした観察方法(治療方法)としては、上述したクリッピング術に限らず、ステントを使用した方法や、フローダイバータを使用した方法が知られている。また、観察方法や適用される手技に応じて、使用される処置具が異なる場合がある。このような場合においても、例えば、患部の近傍に保持される処置具であれば、上述した本開示に係る技術を適用し、逐次撮像される患部の画像から当該処置具の動きを抽出することで、当該患部の動きを検出することが可能である。
以上、応用例2として、図11及び図12を参照して、本開示の一実施形態に係る医療用観察システムを、内視鏡ユニットを備えた内視鏡手術システムとして構成した場合の一例について説明した。
<<5.むすび>>
以上、説明したように、本開示の一実施形態に係る医療用画像処理装置において、画像処理部は、第1の薬剤が投与されたタイミングから第2の薬剤が投与されたタイミングまでの間に撮像された第1の蛍光画像と、当該第2の薬剤が投与されたタイミング以降に撮像された第2の蛍光画像と、を取得する。また、上記画像処理部は、上記第1の蛍光画像と上記第2の蛍光画像とに基づき、上記第2の薬剤により生じる蛍光が強調された出力画像を生成する。
以上のような構成により、蛍光薬剤の投与と、蛍光観察と、が繰り返し実行されるような状況下において、2回目以降の蛍光薬剤投与後の観察時においても、1回目の蛍光薬剤投与後の観察時と同等の視認性を確保することが可能となる。即ち、本開示の一実施形態に係る医療用観察システムに依れば、薬剤が複数回投与される状況下においても、当該薬剤に対応して取得される画像をより好適な態様で観察することが可能となる。
なお、上記では主に撮像部による撮像結果に基づき画像を生成する場合に着目して説明したが、必ずしも本開示に係る技術の適用先を限定するものではない。具体的な一例として、蛍光物質が発する蛍光や可視光等の光信号を対象として信号処理を施すシステムに対しても、本開示に係る技術を適用することが可能である。この場合には、薬剤の投与に応じて観察対象(例えば、患部)から到来する光の検出結果に応じた光信号を取得する部分(例えば、当該光を検出するセンサや、当該センサから検出結果を取得する部分)が、「取得部」の一例に相当する。また、上述した実施形態や変形例に係る医療用観察システムにおける信号処理部(CCU)に相当する構成は、第1の薬剤が投与されたタイミングから第2の薬剤が投与されたタイミングまでの間に取得された第1の光信号と、当該第2の薬剤が投与されたタイミング以降に取得された第2の信号と、に基づいて、当該第2の薬剤による生じる光信号を抽出する。なお、第2の薬剤により生じる光信号の抽出については、上述した実施形態や変形例に係る医療用観察システムにおいて、第2の薬剤(例えば、2回目以降に投与された蛍光薬剤)により生じる蛍光が強調された蛍光画像の生成に係る方法と同様の思想に基づき実現可能である。また、この場合における当該信号処理部に相当する構成が、「光信号抽出部」の一例に相当する。また、上記システムが「医療用信号取得システム」の一例に相当する。
また、上記では、主に蛍光薬剤を使用して行われる蛍光観察に着目して説明したが、必ずしも本開示に係る技術の適用先を限定するものではない。即ち、患者に対して薬剤を投与し、当該薬剤に応じた波長帯域の光を観察する観察手法であれば、本開示に係る技術を適用することが可能である。具体的な一例として、蛍光薬剤以外の他の造影剤を患者に対して投与し、当該薬剤に含まれる物質が発する光の検出結果に応じた画像を観察する観察手法に対して、本開示に係る技術を適用することも可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得し、
前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を生成する、
画像処理部を備える、
医療用画像処理装置。
(2)
前記第2の薬剤は、前記第1の薬剤である、前記(1)に記載の医療用画像処理装置。
(3)
前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、前記(1)または(2)に記載の医療用画像処理装置。
(4)
前記画像処理部は、前記第2の薬剤の投与後における画像中の少なくとも一部における時系列に沿った輝度変化の極小値を検出し、当該極小値が検出されたタイミングまでに撮像された蛍光画像を、前記第1の蛍光画像として取得する、前記(3)に記載の医療用画像処理装置。
(5)
前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、ユーザの入力に基づき検出される、前記(1)または(2)に記載の医療用画像処理装置。
(6)
記憶部を備え、
前記画像処理部は、
撮像部によるフレームごとの患部の撮像結果に応じた撮像画像のフレーム間の差分を差分画像として抽出して前記記憶部に蓄積し、
前記記憶部への前記差分画像の蓄積結果に応じた出力画像を出力し、
前記第2の薬剤が投与されたタイミングまでに前記記憶部に蓄積された前記差分画像を前記出力画像としての出力対象から除外することで、当該タイミング以降に蓄積された前記差分画像に基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を出力する、
前記(1)~(5)のいずれか一項に記載の医療用画像処理装置。
(7)
前記画像処理部は、
フレームごとの患部の撮像結果に基づき、フレーム間における前記撮像部と前記患部とのうちの一方に対する他方の相対的な動きを推定し、
当該動きの推定結果に基づき、前記差分の抽出結果に応じた第1の差分画像と、前記記憶部に蓄積された第2の差分画像と、のうちの一方に対する他方のずれを補正し、
前記補正の後の前記第1の差分画像を新たな前記第2の差分画像として前記記憶部に蓄積する、
前記(6)に記載の医療用画像処理装置。
(8)
前記画像処理部は、
前記第1の薬剤及び前記第2の薬剤のうちの少なくともいずれかに応じた第1の波長帯域に属する光を撮像対象とした前記患部の撮像結果に応じて前記出力画像を出力し、
前記第1の波長帯域とは異なる第2の波長帯域に属する光を撮像対象とした前記患部の撮像結果に応じて前記動きを推定する、
前記(7)に記載の医療用画像処理装置。
(9)
前記第2の波長帯域に属する光は、可視光波長帯域に属する光を含む、前記(8)に記載の医療用画像処理装置。
(10)
記憶部を備え、
前記画像処理部は、
前記第1の蛍光画像を前記記憶部に保持し、
前記第2の蛍光画像と、前記第1の蛍光画像と、の差分を抽出し、
前記差分の抽出結果に応じた前記出力画像を出力する、
前記(1)~(5)のいずれか一項に記載の医療用画像処理装置。
(11)
前記画像処理部は、
前記第1の蛍光画像に基づく第1の出力画像と、
前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された第2の出力画像と、
を出力する、
前記(1)~(10)のいずれか一項に記載の医療用画像処理装置。
(12)
コンピュータが、
第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得することと、
前記第1の蛍光画像と前記第2の蛍光画像とに基づいて、前記第2の薬剤により生じる蛍光を強調した出力画像を生成することと、
を含む、医療用画像処理装置の駆動方法。
(13)
患者へ投与される薬剤に含まれる蛍光物質の励起光を射出する光源と、
前記薬剤により生じる蛍光を含む光を受光して撮像する撮像部と、
第1の薬剤を投与されたタイミングから、第2の薬剤を投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づいて、前前記第2の薬剤により生じる蛍光が強調された出力画像を生成する画像処理装置と、
を備える、医療用撮像システム。
(14)
前記患者の体腔内に挿入される鏡筒を含む内視鏡部を備え、
前記撮像部は、前記内視鏡部による前記蛍光を含む光の集光結果に応じた像を撮像する、
前記(13)に記載の医療用撮像システム。
(15)
前記蛍光を含む光の集光結果に応じた拡大像を取得する顕微鏡部を備え、
前記撮像部は、前記顕微鏡部により取得された前記拡大像を撮像する、
前記(13)に記載の医療用撮像システム。
(16)
患者へ投与される薬剤に応じた波長帯域に属する光を撮像対象とした、撮像部による当該患者の患部の撮像結果に応じた出力画像を出力する画像処理部を備え、
前記画像処理部は、
その時々の前記患部の撮像結果に応じた出力画像を出力する第1のモードと、
第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を出力する第2のモードと、
を動作モードとして含む、
医療用画像処理装置。
(17)
患者へ投与される薬剤に応じた波長帯域の光を射出する光源と、
前記薬剤に応じた波長帯域に属する光信号を取得する取得部と、
第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に取得された第1の光信号と、前記第1のタイミング以降に取得された第2の信号と、に基づいて、前記第2の薬剤による生じる光信号を抽出する光信号抽出部と、
を備える、医療用信号取得システム。
11、12、13 医療用観察システム
110 信号処理部
111 現像処理部
112 動き推定部
113 差分抽出部
114 加算部
115 フレームメモリ
116、127、134 位置合わせ処理部
120 信号処理部
121 現像処理部
122 現像処理部
123、133 動き推定部
124 差分抽出部
125 加算部
126 フレームメモリ
130 信号処理部
131 現像処理部
132 フレームメモリ
135 差分抽出部
191 撮像部
193 出力部

Claims (16)

  1. 第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得し、
    前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を生成する、
    画像処理部を備え
    前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、
    医療用画像処理装置。
  2. 第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得し、
    前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を生成する、
    画像処理部を備え、
    記憶部を備え、
    前記画像処理部は、
    撮像部によるフレームごとの患部の撮像結果に応じた撮像画像のフレーム間の差分を差分画像として抽出して前記記憶部に蓄積し、
    前記記憶部への前記差分画像の蓄積結果に応じた出力画像を出力し、
    前記第1のタイミングまでに前記記憶部に蓄積された前記差分画像を前記出力画像としての出力対象から除外することで、当該第1のタイミング以降に蓄積された前記差分画像に基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を出力する、
    療用画像処理装置。
  3. 前記第2の薬剤は、前記第1の薬剤である、請求項1または2に記載の医療用画像処理装置。
  4. 前記画像処理部は、前記第2の薬剤の投与後における画像中の少なくとも一部における時系列に沿った輝度変化の極小値を検出し、当該極小値が検出されたタイミングまでに撮像された蛍光画像を、前記第1の蛍光画像として取得する、請求項に記載の医療用画像処理装置。
  5. 前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、ユーザの入力に基づき検出される、請求項に記載の医療用画像処理装置。
  6. 前記画像処理部は、
    フレームごとの患部の撮像結果に基づき、フレーム間における前記撮像部と前記患部とのうちの一方に対する他方の相対的な動きを推定し、
    当該動きの推定結果に基づき、前記差分の抽出結果に応じた第1の差分画像と、前記記憶部に蓄積された第2の差分画像と、のうちの一方に対する他方のずれを補正し、
    前記補正の後の前記第1の差分画像を新たな前記第2の差分画像として前記記憶部に蓄積する、
    請求項に記載の医療用画像処理装置。
  7. 前記画像処理部は、
    前記第1の薬剤及び前記第2の薬剤のうちの少なくともいずれかに応じた第1の波長帯域に属する光を撮像対象とした前記患部の撮像結果に応じて前記出力画像を出力し、
    前記第1の波長帯域とは異なる第2の波長帯域に属する光を撮像対象とした前記患部の撮像結果に応じて前記動きを推定する、
    請求項に記載の医療用画像処理装置。
  8. 前記第2の波長帯域に属する光は、可視光波長帯域に属する光を含む、請求項に記載の医療用画像処理装置。
  9. 記憶部を備え、
    前記画像処理部は、
    前記第1の蛍光画像を前記記憶部に保持し、
    前記第2の蛍光画像と、前記第1の蛍光画像と、の差分を抽出し、
    前記差分の抽出結果に応じた前記出力画像を出力する、
    請求項1に記載の医療用画像処理装置。
  10. 前記画像処理部は、
    前記第1の蛍光画像に基づく第1の出力画像と、
    前記第1の蛍光画像と前記第2の蛍光画像とに基づき、前記第2の薬剤により生じる蛍光が強調された第2の出力画像と、
    を出力する、
    請求項1または2に記載の医療用画像処理装置。
  11. コンピュータが、
    第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、を取得することと、
    前記第1の蛍光画像と前記第2の蛍光画像とに基づいて、前記第2の薬剤により生じる蛍光を強調した出力画像を生成することと、
    を含み、
    前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、
    医療用画像処理装置の駆動方法。
  12. 患者へ投与される薬剤に含まれる蛍光物質の励起光を射出する光源と、
    前記薬剤により生じる蛍光を含む光を受光して撮像する撮像部と、
    第1の薬剤を投与されたタイミングから、第2の薬剤を投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づいて、前前記第2の薬剤により生じる蛍光が強調された出力画像を生成する画像処理装置と、
    を備え
    前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、
    医療用撮像システム。
  13. 前記患者の体腔内に挿入される鏡筒を含む内視鏡部を備え、
    前記撮像部は、前記内視鏡部による前記蛍光を含む光の集光結果に応じた像を撮像する、
    請求項12に記載の医療用撮像システム。
  14. 前記蛍光を含む光の集光結果に応じた拡大像を取得する顕微鏡部を備え、
    前記撮像部は、前記顕微鏡部により取得された前記拡大像を撮像する、
    請求項12に記載の医療用撮像システム。
  15. 患者へ投与される薬剤に応じた波長帯域に属する光を撮像対象とした、撮像部による当該患者の患部の撮像結果に応じた出力画像を出力する画像処理部を備え、
    前記画像処理部は、
    その時々の前記患部の撮像結果に応じた出力画像を出力する第1のモードと、
    第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に撮像された第1の蛍光画像と、前記第1のタイミング以降に撮像された第2の蛍光画像と、に基づき、前記第2の薬剤により生じる蛍光が強調された出力画像を出力する第2のモードと、
    を動作モードとして含み、
    前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、
    医療用画像処理装置。
  16. 患者へ投与される薬剤に応じた波長帯域の光を射出する光源と、
    前記薬剤に応じた波長帯域に属する光信号を取得する取得部と、
    第1の薬剤が投与されたタイミングから、第2の薬剤が投与され所定の領域の蛍光強度が上昇しだす第1のタイミングまでの間に取得された第1の光信号と、前記第1のタイミング以降に取得された第2の信号と、に基づいて、前記第2の薬剤による生じる光信号を抽出する光信号抽出部と、
    を備え
    前記第1の薬剤及び前記第2の薬剤それぞれが投与されたタイミングは、撮像された蛍光画像に基づき検出される、
    医療用信号取得システム。
JP2021522792A 2019-05-28 2020-05-26 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム Active JP7480779B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019099715 2019-05-28
JP2019099715 2019-05-28
PCT/JP2020/020792 WO2020241651A1 (ja) 2019-05-28 2020-05-26 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム

Publications (2)

Publication Number Publication Date
JPWO2020241651A1 JPWO2020241651A1 (ja) 2020-12-03
JP7480779B2 true JP7480779B2 (ja) 2024-05-10

Family

ID=73553792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021522792A Active JP7480779B2 (ja) 2019-05-28 2020-05-26 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム

Country Status (4)

Country Link
US (1) US12272051B2 (ja)
EP (1) EP3977953A4 (ja)
JP (1) JP7480779B2 (ja)
WO (1) WO2020241651A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12499652B1 (en) * 2025-04-09 2025-12-16 Browserstack Limited Image difference generator with shift detection

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010172530A (ja) 2009-01-30 2010-08-12 Fujifilm Corp 蛍光内視鏡システム、及び蛍光観察方法
US20120148140A1 (en) 2010-12-10 2012-06-14 The Regents Of The University Of California Method and device for multi-parameter imaging within a single fluorescent channel
WO2017119340A1 (ja) 2016-01-05 2017-07-13 浜松ホトニクス株式会社 生体観察方法及び生体観察装置
JP2019048111A (ja) 2018-11-07 2019-03-28 株式会社島津製作所 イメージング方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008043494A (ja) * 2006-08-14 2008-02-28 Olympus Corp 蛍光内視鏡システム、蛍光観測装置、蛍光観測方法、蛍光情報処理装置、および蛍光情報処理方法
US20140324138A1 (en) * 2007-05-09 2014-10-30 Massachusetts Institute Of Technology Wirelessly-powered illumination of biological tissue
WO2012081336A1 (ja) * 2010-12-13 2012-06-21 オリンパスメディカルシステムズ株式会社 医療装置
CN103153155B (zh) * 2011-03-15 2014-09-10 奥林巴斯医疗株式会社 医疗装置
CN103140157B (zh) * 2011-03-15 2014-10-01 奥林巴斯医疗株式会社 医疗装置
US20130216482A1 (en) * 2012-02-03 2013-08-22 The Board Of Regents Of The University Of Texas System Methods and compositions for non-invasive, dynamic imaging of intestinal motility
WO2015156153A1 (ja) * 2014-04-08 2015-10-15 オリンパス株式会社 蛍光観察内視鏡システム
KR101741977B1 (ko) * 2016-04-26 2017-05-31 한국교통대학교산학협력단 경구 투여용 유전자 전달을 위한 나노입자 및 이를 포함하는 약학 조성물
WO2018047369A1 (ja) * 2016-09-06 2018-03-15 オリンパス株式会社 内視鏡システム
US11559607B2 (en) * 2016-09-06 2023-01-24 President And Fellows Of Harvard College Living devices for replacement of organs or specific organ functions, methods and uses of the same
WO2018083879A1 (ja) * 2016-11-01 2018-05-11 オリンパス株式会社 生体観察システム
JPWO2019098385A1 (ja) * 2017-11-20 2020-12-24 コニカミノルタ株式会社 薬剤評価方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010172530A (ja) 2009-01-30 2010-08-12 Fujifilm Corp 蛍光内視鏡システム、及び蛍光観察方法
US20120148140A1 (en) 2010-12-10 2012-06-14 The Regents Of The University Of California Method and device for multi-parameter imaging within a single fluorescent channel
WO2017119340A1 (ja) 2016-01-05 2017-07-13 浜松ホトニクス株式会社 生体観察方法及び生体観察装置
JP2019048111A (ja) 2018-11-07 2019-03-28 株式会社島津製作所 イメージング方法

Also Published As

Publication number Publication date
US20220270243A1 (en) 2022-08-25
WO2020241651A1 (ja) 2020-12-03
EP3977953A4 (en) 2022-08-10
EP3977953A1 (en) 2022-04-06
JPWO2020241651A1 (ja) 2020-12-03
US12272051B2 (en) 2025-04-08

Similar Documents

Publication Publication Date Title
US12169175B2 (en) Imaging system
US11216941B2 (en) Medical image processing apparatus, medical image processing method, and program
JP7095679B2 (ja) 情報処理装置、支援システム及び情報処理方法
US10904437B2 (en) Control apparatus and control method
US11004197B2 (en) Medical image processing apparatus, medical image processing method, and program
JP7095693B2 (ja) 医療用観察システム
WO2017159335A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JPWO2019239942A1 (ja) 手術用観察装置、手術用観察方法、手術用光源装置、及び手術用の光照射方法
WO2020008920A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
US12364386B2 (en) Medical image generation apparatus, medical image generation method, and medical image generation program
WO2020184228A1 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、及び医療用観察システム
JPWO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
JP7480779B2 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム
JP7544033B2 (ja) 医療システム、情報処理装置及び情報処理方法
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240408

R150 Certificate of patent or registration of utility model

Ref document number: 7480779

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150