Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7370694B2 - 医用情報処理装置及び医用情報処理方法、プログラム - Google Patents
[go: Go Back, main page]

JP7370694B2 - 医用情報処理装置及び医用情報処理方法、プログラム - Google Patents

医用情報処理装置及び医用情報処理方法、プログラム Download PDF

Info

Publication number
JP7370694B2
JP7370694B2 JP2018152719A JP2018152719A JP7370694B2 JP 7370694 B2 JP7370694 B2 JP 7370694B2 JP 2018152719 A JP2018152719 A JP 2018152719A JP 2018152719 A JP2018152719 A JP 2018152719A JP 7370694 B2 JP7370694 B2 JP 7370694B2
Authority
JP
Japan
Prior art keywords
data
learning
evaluation data
evaluation
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018152719A
Other languages
English (en)
Other versions
JP2020027506A (ja
Inventor
佳士 町田
好教 平野
秀昭 宮本
大輔 山田
明哉 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018152719A priority Critical patent/JP7370694B2/ja
Priority to PCT/JP2019/023051 priority patent/WO2020035991A1/ja
Publication of JP2020027506A publication Critical patent/JP2020027506A/ja
Priority to US17/163,928 priority patent/US12131235B2/en
Application granted granted Critical
Publication of JP7370694B2 publication Critical patent/JP7370694B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/10Machine learning using kernel methods, e.g. support vector machines [SVM]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、医用情報処理装置及び医用情報処理方法、プログラムに関する。
医用情報処理装置において、機械学習を用いてユーザーの傾向や嗜好に沿った情報を提供する機能や、画像解析精度を向上させる機能等が提案されている。特許文献1には機械学習により画像認識精度を向上させ、対象物を検出する方法が記載されている。また、特許文献2にはニューラルネットワークを用いて、放射線画像の分割パターン、照射野、撮影体位、撮影部位を認識する方法が記載されている。
特開2017-185007号公報 特開平04-261649号公報
Conventional Neural Networkを用いた一般物体認識手法の解析 情報処理学会研究報告 Vol.2014-CVIM-192 No.14 (実施形態で参照される)
上記の様な機械学習を用いて性能が変更された場合に、ユーザーの臨床的要求である使用目的の達成に必要な性能を満たすか否かを検証する妥当性検証を行うこと、またその妥当性検証を行うためのデータの信頼性を保つことは提案されていない。
本発明は、医用情報処理装置において、機械学習の妥当性検証を行えるようにすることを目的とする。
本発明の一態様による医用情報処理装置は以下の構成を備える。すなわち、
医用情報処理装置であって、
医用情報を取得する取得手段と、
前記医用情報を用いて前記医用情報処理装置内の機能に対して機械学習を行う学習手段であって、該機能により処理して得られる結果として領域情報を含む画像認識と、該機能により処理して得られる結果として画像処理条件を処理結果に含む画像処理と、該機能により処理して得られる結果として病変位置情報を処理結果に含む診断支援とのいずれかに関する機械学習を行う前記学習手段と、
前記学習手段による学習結果を評価するための評価用データであって、医用画像と、前記画像認識と前記画像処理と前記診断支援とのそれぞれに関する正解が既知となっている正解データとを含む評価用データを、撮影形態ごとに保持する評価用データ保持手段と、
前記評価用データ保持手段に保持されている評価用データのうちの、前記機能の種別と前記医用情報に基づく撮影形態とに応じて選択された評価用データに基づいて、前記画像認識と前記画像処理と前記診断支援とのいずれかに関する機械学習により取得された学習結果を用いて前記評価用データに含まれる医用画像を処理して得た結果と、前記評価用データに含まれる正解データとを互いに対応する画素毎に比較して得た結果を用いて、前記学習結果を評価する評価手段と、を備える。
医用情報処理装置において、機械学習の妥当性検証を行うことが可能となる。
第1実施形態の医用情報処理装置の機能構成例を示す図。 第1実施形態の医用情報処理装置の処理手順を示すフローチャート。 第1実施形態による評価結果の表示例を示す図。 (a)は第1実施形態の評価部の機能構成例を示す図、(b)は第1実施形態の評価部の処理手順を示すフローチャート。 照射野の正解と学習によって得られた結果の差異例を示す図。 変形例1による医用情報処理装置の機能構成例を示す図。 変形例2による画像データの付帯情報の例を示す図。 第2実施形態の医用情報処理装置の機能構成例を示す図。 第2実施形態の医用情報処理装置の処理手順を示すフローチャート (a)は、第2実施形態の評価用データ配信部の機能構成例を示す図、(b)は、第2実施形態の評価用データ配信部の処理手順を示すフローチャート。 (a)は、変形例4の評価用データ配信部の機能構成例を示す図、(b)は、変形例4の評価用データ配信部の処理手順を示すフローチャート。 第3実施形態の医用情報処理装置の機能構成例を示す図。 第3実施形態の医用情報処理装置の処理手順を示すフローチャート。 (a)は、第3実施形態のデータ指定部の機能構成例を示す図、(b)は、第3実施形態のデータ指定部の処理手順を示すフローチャート。 実施形態による医用情報システムのハードウエア構成例を示すブロック図。
以下、添付の図面を参照しながら本発明の実施形態を説明する。尚、実施形態では放射線画像に対する医用情報処理装置を説明するが、本発明はCT装置、MRI装置、超音波装置、眼底カメラ、OCT、内視鏡等、他のモダリティを用いた医用情報処理装置にも適用可能である。また、複数種類のモダリティを用いた医用情報処理装置にも適用可能である。なお、以下の実施形態において、放射線という用語は、X線の他、例えば、α線、β線、γ線、粒子線、宇宙線などを含み得る。
<第1実施形態>
図1は、第1実施形態による医用情報処理装置の機能構成例を示すブロック図である。図1に示すように、第1実施形態における、医用情報処理装置100は、医用情報を取得する医用情報取得部110と、取得された医用情報を用いて医用情報処理装置内の機能に対し機械学習を行う学習部103とを有する。また、医用情報処理装置100は、学習部103による学習結果を評価するための、機能の実行による正解が既知の評価用データを保持する評価用データ保持部105を有する。また、医用情報処理装置は、評価用データに基づいて、学習部103が行った機械学習により取得された学習結果(学習状態)を評価する評価部104を有する。また、医用情報処理装置100は、学習結果に対する評価結果を表示する表示部106を有する。さらに、医用情報処理装置100は、評価部104による評価に基づいて、医用情報処理装置内の上記機能によって用いられるパラメータを更新するパラメータ更新部107を有する。
医用情報取得部110において、撮影部101は、医用情報として用いられる医用画像を取得する。医用画像としては、例えば、放射線画像、CT画像、MRI画像、超音波画像、眼底画像、OCT画像、内視鏡画像などがあげられる。また、医用情報は、医用画像に付帯する情報(管電圧、撮影部位など)を含んでいてもよい。医用情報取得部110は、医用画像とその医用画像に付帯する情報(以下、付帯情報)を含む医用情報を取得し、データ保持部102に保持する。
医用情報処理装置100は、医用画像を用いた画像認識、画像処理、診断支援などのいずれか1つの機能を含む。学習部103により医用情報処理装置100が有する機能の学習が行われると、医用情報処理装置100の機能(機能の質)が変化する。例えば、学習部103によって医用画像を用いた画像認識の学習をすれば画像認識の精度が変化し、学習部103によって画像処理の学習をすれば画像処理の精度が変化し、学習部103によって診断支援の学習をすれば診断支援の精度が変化する。
評価用データ保持部105は、医用情報処理装置100の機能に応じた評価用データを保持する。評価用データは、例えば、医用画像とそれぞれの学習(画像認識、画像処理、診断支援など)に応じた正解データとを含む。すなわち、評価用データは、医用画像と、当該医用画像について既知となっている正解のデータで定義されている。例えば、医用画像を用いた画像認識の学習に関する評価用データは、医用画像と領域情報(照射野、解剖学的領域、病変領域など)とを含む。また、例えば画像処理の学習に関する評価用データは、医用画像と画像処理条件(階調処理条件、ノイズ処理条件など)とを含む。また、例えば、診断支援の学習に関する評価用データは、医用画像と病変位置情報とを含む。
また、評価用データ保持部105は、撮影部位、撮影手技などの撮影形態に応じて、評価用データを保持してもよい。例えば、処理対象のデータとしての評価用データ保持部105は、胸部、腹部、頭部、四肢などの撮影部位ごとに区別して、評価用データを保持することができる。例えば、評価用データ保持部105は、撮影部位に応じて、評価用データである医用画像と画像処理条件(階調処理条件、ノイズ処理条件など)を保持することができる。また、例えば、評価用データ保持部105は、動画撮影、静止画撮影などの撮影手技ごとに区別して、評価用データを保持することができる。例えば、評価用データ保持部105は、撮影手技に応じて、評価用データである医用画像と画像処理条件(階調処理条件、ノイズ処理条件など)を保持することができる。
評価部104は、学習部103において学習した内容(医用情報処理装置内の機能)を解析し、学習した内容に関連する評価用データを評価用データ保持部105から読み込み、学習結果を評価する。評価部104は、学習部103による学習結果を用いて、システム内の機能により評価用データに含まれている処理対象のデータを処理し、その結果を当該評価用データに含まれている正解データと比較することにより、学習結果を評価する。例えば、医用画像を用いた画像認識の学習について評価する場合、評価部104は、医用画像を用いた画像認識の学習に関連する評価用データを評価用データ保持部105から読み込み、画像認識に関する学習結果を評価する。また、例えば、医用画像を用いた画像処理の学習について評価する場合、評価部104は、医用画像を用いた画像処理の学習に関連する評価用データを評価用データ保持部105から読み込み、画像処理に関する学習結果を評価する。また、例えば、医用画像を用いた診断支援の学習について評価する場合、評価部104は、診断支援の学習に関連する評価用データを評価用データ保持部105から読み込み、診断支援に関する学習結果を評価する。
なお、上記では、機能の種別(画像認識、画像処理、診断支援などの学習の種別)に応じて使用する評価用データを選択したがこれに限られるものではない。例えば、評価部104は、学習部103において学習した医用情報に基づく撮影形態に応じて、医用画像を取得した際の撮影形態に関連する評価用データを読み込み、学習結果を評価してもよい。撮影形態としては、例えば、上述したように胸部、腹部、頭部、四肢などの撮影部位があげられる。より、具体的には、胸部撮影した医用画像を用いた画像認識の学習について評価する場合、評価部104は、胸部撮影した医用画像から評価用データを読み込み、画像認識に関する学習結果を評価する。
表示部106は、学習結果に対する評価結果を表示する。表示部106は、医用画像を表示することもできる。表示部106は、機械学習による学習結果(画像認識の精度、画像処理の制度、診断支援の精度など)が向上したのか、低下したのかを表示することができる。パラメータ更新部は、評価部104による評価に基づいて、医用情報処理装置内の機能によって用いられるパラメータを更新する。例えば、パラメータ更新部107は、学習部103が行った機械学習の学習結果(画像認識の精度、画像処理の制度、診断支援の精度など)が向上した場合に、医用情報処理装置内の機能におけるパラメータを更新する。
図15は、上述した各機能部を実現する医用情報処理装置100のハードウエア構成例を示すブロック図である。
放射線撮影装置41は、不図示の放射線発生部から照射された放射線を検出し、医用画像としての放射線画像を取得する。処理装置42は、放射線撮影装置41により取得された放射線画像に基づいて、画像認識、画像処理、診断支援などを行う。格納装置43は、放射線撮影装置41が取得した放射線画像とその付帯情報、及び、処理装置42により処理された放射線画像を格納する。処理装置42と格納装置43はネットワーク30に接続されている。なお、処理装置42は独立した装置である必要はなく、例えば、処理装置42は情報処理装置10に含まれてもよいし、放射線撮影装置41に含まれてもよい。
また、ネットワーク30には情報処理装置10が接続されている。情報処理装置10において、CPU11は、ROM12またはRAM13に格納されたプログラムを実行することにより、情報処理装置10を制御する。ROM12は読み取り専用の不揮発性メモリであり、RAM13は随時読み書きが可能な揮発性メモリである。ネットワークI/F14は、情報処理装置10とネットワーク30とを接続する。入出力I/F15は、ディスプレイ18と、キーボード、ポインティングデバイスなどの操作装置19とを情報処理装置10に接続する。二次記憶装置16は、ハードディスクなどで構成され、各種データ、プログラムを記憶する。バス17は、上述した各部を、通信可能に接続する。
以上の構成において、例えば、撮影部101は、放射線撮影装置41と処理装置42により実現され得る。また、学習部103、評価部104、表示部106、パラメータ更新部107は、情報処理装置10においてCPU11がROM12またはRAM13に格納された所定のプログラムを実行することにより実現され得る。また、処理装置42が格納装置43を用いてデータ保持部102を実現してもよいし、情報処理装置10が格納装置43を用いて評価用データ保持部105を実現してもよい。
以下では、以上の様な構成を備える第1実施形態の医用情報処理装置100に、放射線画像における照射野認識の機能の精度向上を行うための機械学習を適用した例を説明する。撮影部101は、被写体を透過した放射線を検出し、放射線画像を生成する機能(放射線撮影装置41)と、撮影した放射線画像から照射野領域を特定する照射野認識の機能(処理装置42)を有している。
医用情報処理装置100による処理について図2を参照して説明する。図2は、第1実施形態による医用情報処理装置100の処理を説明するフローチャートである。ステップS201において、撮影部101は、放射線を用いた撮影により放射線画像を取得し、また、その放射線画像における照射野を示す照射野情報を取得する。照射野情報とは、放射線画像中の放射線が照射された領域に関する情報である。照射野情報は、例えば、放射線画像の各座標に対して、照射野を0、照射野外を1としたデータである。照射野は、放射線が撮影部101に到達した領域であり、照射野外は、放射線が撮影部101に到達しなかった、照射野を除く領域である。図5(a)に照射野情報の例を示す。照射野情報はユーザーが領域を指定する、もしくは医用情報処理装置100の照射野認識機能(処理装置42)で得られた照射野情報をユーザーが確認し、必要に応じて照射野領域を修正することで得られる。照射野認識機能には、機械学習アルゴリズムの学習結果を用いたアルゴリズムが用いられる。
ステップS202において、データ保持部102は、ステップS201で取得された放射線画像および照射野情報を医用情報として保持する。言い換えれば、データ保持部102は、撮影部101で撮影された放射線画像と、当該放射線画像において放射線が照射された領域に関する情報(照射野情報)を保持する。
ステップS203において、学習部103はデータ保持部102内の放射線画像および照射野情報を用いて照射野領域認識機能に関する機械学習を行い、学習結果を得る。本実施形態の機械学習には、例えば非特許文献1に記載されたConvolution Neural Network(以下、CNN)を用いることができる。なお、CNNは一例であり、これに限られるものではない。例えば、学習部103は、Recurrent Neural Network、Long Short-Term Memory等の深層学習、Support vector Machine、AdaBoost等の機械学習を用いることができる。また、本実施形態での学習結果はCNNの各層における重み等のパラメータとするが学習結果はこれに限られるものではない。例えば、レイヤ構成などが学習結果として得られるようにしてもよい。
ステップS204にて、評価部104は評価用データ保持部105に保持されている評価用データを用いて、学習部103により出力された学習結果を評価し、評価結果を取得する。本実施形態においては、評価用データは予め用意された放射線画像とその照射野情報(正解データ)である。なお、評価部104における評価方法の詳細は後述する。ステップS205にて、表示部106は、評価部104により取得された評価結果を表示器に表示する。図3に、表示部106による評価結果の表示例を示す。図3では、照射野領域機能による照射野の認識精度が80%から90%に向上したことを示している。つまり、表示部106は、機械学習による学習結果(照射野領域の認識精度)が向上したのか、低下したのかを表示することができる。
ステップS206にて、パラメータ更新部107は、評価部104による評価結果により学習結果に妥当性があると判定すると、撮影部101内の照射野認識機能におけるパラメータを最新の学習結果を用いて更新する。こうして、パラメータ更新部107は、機械学習による学習結果(照射野領域の認識精度)が向上した場合、医用情報処理装置内の機能(撮影部101内の照射野認識機能)におけるパラメータを更新する。言い換えれば、パラメータ更新部107は、機械学習による学習結果(照射野領域の認識精度)が低下した場合、医用情報処理装置内の機能(撮影部101内の照射野認識機能)におけるパラメータを更新しない。なお、図3に示されるような評価結果を見て学習結果の妥当性をユーザーが判断し、パラメータの更新を行うか否かをユーザーが指示するようにしてもよい。この場合、パラメータ更新部107はユーザー指示に応じてパラメータの更新を実行する。
以上のようにステップS201からS206の処理を行うことによって機械学習の妥当性検証が可能となる。また、機械学習によって医用情報処理装置内の機能が変化し得る状況において、変化後の評価結果をユーザーに提示することにより、妥当性があるか否かをユーザーが判断する際の指標として用いることができる。臨床的要求である使用目的の達成に必要な性能を満たすか否かを検証することが可能となる。
次に、第1実施形態の評価部104における評価処理について図4を用いて詳細に説明する。第1実施形態では、学習結果の妥当性の評価を、複数組の画像データ(放射線画像)とその照射野情報を含む評価用データを用いて行う。
図4(a)は、第1実施形態による評価部104の機能構成例を示すブロック図である。評価部104において、評価用データ入力部401は、評価用データ保持部105から評価用データを入力する。学習結果入力部402は、学習部103から学習結果である学習済みパラメータを入力する。比較部403は、評価用データにおける正解データと、学習済みパラメータを用いて評価用データにおける医用画像を処理した結果を比較する。算出部404は、評価用データにおける正解データと学習結果における学習データの一致率を算出する。出力部405は、算出部404における算出結果を出力する。
次に図4(b)を参照して、上記構成を有する評価部104が実行する処理の流れを詳細に説明する。ステップS421において、評価用データ入力部401は、評価用データ保持部105から評価用データを入力する。上述の通り本実施形態では評価用データは医用画像としての画像データおよび正解データとしての照射野情報(以下、正解照射野)を含む。ステップS422において、学習結果入力部402は学習部103の学習結果である学習済みパラメータを入力する。上述の通り本実施形態ではパラメータはCNNにおける各層の重み係数である。ステップS423において、処理装置42は学習済みパラメータに基づいて、評価用データに含まれる画像データに対して画像認識を行う。本実施形態では処理結果は照射野情報(以下、学習照射野)である。ステップS424において、比較部403は正解照射野と学習照射野を比較し一致率を算出する。
比較部403における照射野の比較例を図5に示す。図5(a)は正解照射野501の例を、図5(b)は学習照射野502の例を、図5(c)は比較照射野503の例をそれぞれ示している。正解照射野501と学習照射野502において"1"となっている画素は照射野外であり、"0"となっている画素は照射野内である。また、比較照射野503において、"0"は正解照射野と学習照射野が一致した画素、"1"は正解照射野と学習照射野が不一致であった画素である。図5の例では全80画素中76画素が一致しており、この場合の一致率は76/80×100=95%となる。
ステップS425において、算出部404は比較した全ての比較結果から結果を算出する。本実施形態では一致率に閾値を設け、一致率が95%以上を正解、95%未満を不正解として全比較結果の認識精度を算出する。例えば、100例中90例が95%以上の一致率であった場合、認識精度は90/100×100=90%となる。ステップS426において、出力部405は、算出部404で算出した結果を表示部106に出力する。以上、ステップS421からS426の処理を行うことによって機械学習によって更新された学習結果の妥当性確認をユーザーが容易に行うことが可能となる。
尚、本実施形態では照射野認識機能を例として説明したが、本発明は関心領域または撮影部位を認識する機能、腫瘤の位置および/または悪性度等の診断支援情報を提供する機能等、機械学習システムを用いたあらゆる医用情報処理装置に適用可能である。また、本実施形態では、画像データと照射野情報の組み合わせを学習用データ、評価用データとしたがこれに限られるものではない。例えば、画像データ、診断情報、遺伝子情報、複数のモダリティの検査情報、性別、年齢、身長などのいずれかをデータとして用いる、いかなる機械学習システムにも適用可能である。
また、本実施形態では医用情報処理装置で得られたデータを用いて機械学習を行うことを説明したが、本発明は機械学習を行うデータがいかなるシステムで得られたデータであっても適用可能である。例えば、パブリックデータセットと呼ばれるインターネットで公開されている機械学習用データセットを用いた医用情報処理装置にも適用可能である。また、本実施形態では医用情報処理装置100のすべての構成が同一の施設内になくてもよい。例えば、撮影部101および妥当性評価結果を表示する表示部106は病院内、それ以外の構成はクラウド上にあるというような医用情報処理装置であってもよい。
[変形例1]
図6に、変形例1による医用情報処理装置の機能構成例を示す。変形例1の医用情報処理装置100は、第1実施形態の構成(図1)に、評価用データ保持部105に保持されている評価用データを保護する評価用データ保護部601を有する。また、医用情報処理装置100は、学習部103による学習結果を保持する学習結果保持部602と、学習結果保持部602に保持されている学習結果を保護する学習結果保護部603を有する。なお、変形例1による医用情報処理装置のハードウエア構成は第1実施形態(図15)と同様である。評価用データ保護部601は、評価用データ保持部105において保持された評価用データが変更や削除されていないことを検出する。変形例1では評価部104における評価を行う前に、評価用データ保護部601による評価用データの確認を行う。評価用データ保護部601による評価用データの正当性は、デジタル署名やハッシュ化による一致性の確認を行うことで検出することが可能である。
また、評価用データ保護部601は、評価用データ保持部105において保持された評価用データを定期的にバックアップしておいてもよい。評価用データ保持部105において保持された評価用データが変更や削除されていても、評価用データ保護部601はバックアップした評価用データを読み出すことにより、変更や削除される前の評価用データに戻すことができる。
学習結果保持部602は、学習部103による学習の結果を保持する。評価部104、パラメータ更新部107は、学習結果保持部602に保持されている学習結果を用いてそれぞれの処理を行う。学習結果保護部603は、学習結果保持部602に保持されている、学習部103による学習結果を保護する。すなわち、学習結果保護部603は、学習結果保持部602に保持された学習結果が変更あるいは削除されていないことを検出する。変形例1では、撮影部101に設定される前に、学習結果の確認を行う。学習結果保護部603による学習結果の正当性は、評価用データ保護部601と同様にデジタル署名やハッシュ化による一致性の確認を行うことで検出することが可能である。また、学習結果保護部603は、評価用データ保持部105と同様に、学習結果保持部602において保持された学習結果を定期的にバックアップするようにしてもよい。
以上のように、変形例1によれば、評価用データ保護部601によって評価用データの保護を行うことにより、改ざん、医用情報処理装置の故障やアップデート時のシステムトラブル等による評価用データの信頼性低下を防止することが可能となる。また、学習結果保護部603により学習部103による学習の結果が保護されるので、評価部104および処理装置42が用いる学習済みパラメータの信頼性低下が防止される。
[変形例2]
第1実施形態では、評価用データを画像データおよび照射野情報としたが、上述の通り、その他の情報用いた医用情報処理装置にも適用可能である。変形例2では、同一の画像データを複数の情報と連携させる場合について、評価用データの付属情報によって、画像データがどの情報と連携しているかを示す例を示す。
図7は評価用データ保持部105に保持されている評価用データと学習結果との対応関係の一例を示した図である。図7(a)に示すように、評価用データは、医用画像(画像データ)と正解データに加えて、学習対象である機能の種類(画像認識、画像処理、写損認識)の情報と撮影部位(胸部、腹部、頭部)の情報を、付属情報として含む。すなわち、評価用データ保持部105は、評価用データと機能との対応関係を示す付属情報、および/または、評価用データと撮影部位との対応関係を示す付属情報を保持する。これにより、評価部104は、付属情報に基づいて学習部103による学習の対象となった機能に対応する評価用データを評価用データ保持部105から読み出し、評価を行うことができる。
図7(a)において、評価用データ1~7は、評価用データ保持部105に保持されている評価用データである。評価用データ1は、胸部の医用画像と、その医用画像について画像認識を際の正しい結果(正解データ)を含む。評価用データ2は、胸部の医用画像と、その医用画像について画像処理を行った際の正解データを含む。評価用データ3は、腹部の医用画像とその医用画像について写損認識を行った際のそれぞれの正解データを含む。評価用データ4は、腹部の医用画像とその医用画像について画像認識と画像処理を行った際のそれぞれの正解データを含む。評価用データ5は、胸部の医用画像とその医用画像について画像認識と写損認識を行った際のそれぞれの正解データを含む。評価用データ6は、頭部の医用画像とその医用画像について画像認識と画像処理を行った際のそれぞれの正解データを含む。評価用データ7は、胸部の医用画像と、その医用画像について画像認識と画像処理と写損認識を行った際のそれぞれの正解データを含む。
このように、評価用データの画像データ毎にどの情報が付随しているかをタグ付することによって、複数の目的に同一の画像データを用いることができる。結果、評価用データ保持部105におけるデータ容量増加によるシステムの肥大化を低減することが可能となる。
評価部104は、学習部103で学習された学習結果と評価用データ保持部105に保持された評価用データの対応付けを行う。図7(b)に示すように、学習結果は、学習部103で学習された学習機能と撮影部位の情報を含む。学習結果1は、胸部の医用画像についての画像認識に対する学習の結果であり、その評価用データとして、機能の種類が画像認識であり撮影部位が胸部である評価用データ1、評価用データ5、評価用データ7が評価用データ保持部105から抽出される。抽出された評価用データ1、評価用データ5、評価用データ7は、学習結果1に対応付けられる。また、学習結果2は、腹部の医用画像についての画像処理に対する学習の結果であり、機能の種類が画像処理、撮影部位が腹部である評価用データ4が評価用データ保持部105から抽出され、学習結果2に対応付けられる。
学習結果3は、頭部の医用画像についての写損認識に対する学習の結果である。評価用データ保持部105には、機能の種類が写損認識となっている評価用データは存在するが、撮影部位が頭部となっているものは存在しない。このように、機能によっては、該当する評価用データが存在しない場合、変形例2の評価部104は、評価用データと学習結果に関する撮影部位が異なっていても、機能の種類に基づいて評価用データを抽出する。結果、機能の種類が写損認識である評価用データ3、評価用データ5、評価用データ7が抽出され、これらが学習結果3に対応付けられる。
学習結果4は、胸部の医用画像についての操作認識に対する学習の結果である。評価用データ保持部105は、機能の種類が操作認識である評価用データを保持していない。この場合、評価部104は、評価用データ保持部105に操作認識の学習機能を有した評価用データがないことを認識して、学習結果4は評価できないことを表示部106に伝達する。結果、ユーザーは、学習結果4について評価ができないことを把握することができる。なお、このように評価用データ保持部105が操作認識に対応した評価用データを保持していない場合に、評価部104が外部装置(不図示)に操作認識に対応した評価用データを要求して取得するようにしてもよい。
また変形例2では、図7のように別途テーブルを用意する例を説明したが、評価用データの画像データと共に保存されるタグ情報等に同様の情報を保持してもよい。その場合、テーブルではなく、それぞれの医用画像のタグ情報を参照することにより、学習結果の評価に用いる評価用データが選択されることになる。また、付帯情報の保存場所や取得日時等の情報を医用画像のタグに入れることも可能である。以上のような、変形例2によれば、データ容量増加によるシステムの肥大化を低減することが可能となる。
<第2実施形態>
第2実施形態では、妥当性検証のためのより有効な評価用データが入手された場合や、医用情報処理装置が更新された場合に評価用データを更新するためのシステムについて説明する。第2実施形態では、第1実施形態と異なる評価用データの作成および配信について述べる。
まず、医用情報処理装置100の構成を図8に基づいて説明する。図8において、第1実施形態(図1)と同様の構成には図1と同一の参照番号を付してある。図8に示す通り、第2実施形態の医用情報処理装置100は第1実施形態の構成に加えて評価用データ配信部801を有する。評価用データ配信部801は、評価用データ保持部105に保持されている評価用データを更新するための評価用データを配信する。評価用データ保持部105は、配信された評価用データを用いて保持されている評価用データを更新する。
なお、第2実施形態による医用情報処理装置のハードウエア構成は第1実施形態(図15)と同様である。但し、評価用データ配信部801はクラウドシステムとして実現されるものとする。そのため評価用データ配信部801は、複数施設(複数の医用情報処理装置100)の評価用データ保持部105とネットワークを介して接続している。なお、図8において、評価用データ配信部801とデータ保持部102との接続(破線で示す)は変形例4で用いられる構成であり、第2実施形態では省略されてもよい。
次に、図9を参照して、上述の医用情報処理装置100の動作を説明する。図9は、第2実施形態による医用情報処理装置100の動作を説明するフローチャートである。図9において第1実施形態(図2)と同様の処理を行うステップには図2と同一のステップ番号を付してある。ステップS901にて、評価用データ配信部801は、評価用データを評価用データ保持部105に配信する。これにより、評価用データ保持部105に保持されている評価用データが更新される。なお、この更新が行われるタイミングとしては、例えば、医用情報処理装置100の撮影部101が変更された時に行う、毎月定期的に行う、ユーザーもしくは配信元が任意のタイミングで指示したタイミングで行う、等が考えられる。ステップS204において、評価部104は、評価用データ保持部105が保持している更新された評価用データを用いて、学習部103による学習の結果を評価する。
次に、評価用データ配信部801の処理の詳細について図10(a)、(b)を用いて説明する。図10(a)は評価用データ配信部801の機能構成例を示したブロック図である。評価用データ配信部801は、評価用データ収集部1001、評価用データ更新指示部1002、評価用データ更新部1003を有する。図10(b)のフローチャートを参照して、上述の構成を有する評価用データ配信部801の動作を説明する。
ステップS1021において、評価用データ収集部1001は、評価用データを収集する。評価用データは、クラウドシステムにより複数施設の画像データ等から収集することが可能である。また、評価用データとして、パブリックデータセットと呼ばれるインターネットで公開されている機械学習用データセットを用いることも可能である。本実施形態では評価用データは、第1実施形態と同様、放射線撮影によって得られた画像データおよび照射野情報である。
ステップS1022において、評価用データ更新指示部1002は、評価用データ収集部1001が収集した評価用データを用いた更新の実行を指示する更新指示を出力する。更新指示の内容は、対象となる施設、更新日時、配信データの種類と数、評価用データ保持部105内の評価用データの変更と修正、対象となる機能等が含まれる。ステップS1023において、評価用データ更新部1003は、評価用データ更新指示部1002の指示に基づいて、評価用データ保持部105に保持されている評価用データを更新する。
以上、ステップS1021からS1023の処理を行うことにより、評価用データ保持部105に保持されている評価用データを更新することが可能である。結果、医用情報処理装置100の性能が変化しても臨床上必要な性能を下回らないようにする運用が可能となる。このように評価用データを配信することよって、医用情報処理装置を用いた撮像方法やパラメータ等が変更になった場合においても、評価用データを更新することでユーザーが容易に妥当性検証を行うことが可能となる。また、第2実施形態によれば、評価用データとして新たな評価指針や新しい機能に対する評価を行う際にも、評価用データ保持部105の保持内容を有効な評価用データに更新することが可能となる。
[変形例3]
変形例3では、評価用データ更新指示部1002において、医用情報処理装置100が設置されている施設の種類、地域の種類、医用情報処理装置100が有する撮影システムの種類(使用機能)によって更新内容を決定する。
施設の種類としては、病床数によって分けられる分類、臨床科の分類等が考えられる。例えば、病床数が少ない診療所の場合、放射線画像としては胸部および腹部の撮影が多いため、その評価用データの比率が多くなるように、評価用データ保持部105に保持されている評価用データを更新するようにすればよい。また病床数が多い病院の場合、手術前後の撮影が増えるため、疾病患者のデータ比率が多くなるようにデータを更新するようにすればよい。整形専門の病院では肩、腰、股関節、膝等の撮影が多いため、それらの評価用データの比率が多くなるように評価用データ保持部105を更新するようにすればよい。小児専門の病院では新生児、小児の撮影がほとんどであるため、そのデータ比率が多くなるように評価用データ保持部105を更新するようにすればよい。
また、地域の種類としては、国、都市と地方の分類等が考えられる。放射線画像の場合、国によって撮影手技や手法が異なることがあるため、他の国で撮影したデータが妥当性検証に適さない場合が考えられる。そのような場合、その国で収集されたデータを用いて、評価用データを更新することが望ましい。また、都市と地方によっては年齢の分布や体型等が異なることがあるため、その地域の年齢や体型分布等の統計情報に基づいて、評価用データを更新することが考えられる。
また、撮影システムの種類としては、撮影システムの検出器種別、画像処理アルゴリズム種別等に応じて更新内容を決定すればよい。例えば、放射線画像撮影システムにおける検出器種別としては、検出器に搭載している蛍光体、画素ピッチ、ノイズ特性、鮮鋭度特性、感度、線形性等による分類が考えられる。例えば、放射線画像撮影システムとして使用されている間接型Flat Panel Detectorでは放射線を可視光に変換する蛍光体としてGOSやCsI等が使用されており、またその膜厚も様々である。蛍光体によって感度や鮮鋭度等が異なるため、データ更新対象施設が使用している撮影システムと同様のシステムで取得されたデータを用いて評価用データを更新することが望ましい。また、検出器種別としては、Computed RadiographyシステムとDigital Radiographyの違いや、製造しているメーカーの種類等も考えられる。
また、画像処理アルゴリズム種別としては、階調処理のアルゴリズムが異なる場合や、散乱線低減処理等の画質改善のための画像処理機能の有無やパラメータ強度等による分類が考えられる。例えば、放射線を照射された被写体から発生する散乱線の成分を低減する散乱線低減処理の有無によって画像のコントラストが異なる。そのため、その施設が散乱線低減処理機能を使用しているか否か(使用機能)によって評価用データの更新内容を決定することが望ましい。
以上のように、施設の種類、地域の種類、撮影システムの種類(使用機能)等によって更新データの指示内容を決定することにより、臨床上必要な性能を正確に評価することが可能となる。
また、変形例3では医用情報処理装置の種類として放射線画像撮影システムを例として挙げたが、これに限られるものではない。医用情報処理装置は、例えば、CT装置、MRI装置、超音波装置、眼底カメラ装置、OCT装置、内視鏡等のいかなる装置にも適用可能である。例えば、CT装置であれば検出器列数、再構成アルゴリズム種別、MRI装置であれば磁場強度等に基づいて更新データを決定することが考えられる。
[変形例4]
上述の変形例3では評価用データ更新指示部1002において、施設の種類、地域、撮影システムの種類、使用機能によって更新内容を決定した。変形例4では、医用情報取得部110で取得されたデータに基づいて更新内容を決定する方法を説明する。
変形例4における医用情報処理装置100の構成では、第2実施形態(図8)で示した構成において、評価用データ配信部801とデータ保持部102が接続される(図8において、破線で示されている)。図11(a)は変形例4における評価用データ配信部801の機能構成例を示した図である。第2実施形態(図10(a))の構成に加えて、データ解析部1101が設けられている。データ解析部1101は、評価用データ更新指示部1002と接続している。この構成において、データ保持部102は、撮影部101により得られた画像データと、画像データに機能を適用して得られた処理結果を保持する。評価用データ配信部801は、データ保持部102に保持されている画像データの解析結果に基づいて、評価用データ保持部105を更新するための評価用データを選択し、配信する。
次に、図11(b)を参照して、変形例4による評価用データ配信部801の動作を説明する。ステップS1021において、評価用データ収集部1001は、評価用データを収集する。ステップS1021の詳細は第2実施形態(図10(b)のS1021)と同様である。次に、ステップS1121において、データ解析部1101は、データ保持部102に保持されているデータを解析する。解析内容としては、「撮影条件」、「画像処理条件」、「撮影画像データの数の比率」、「年齢」、「性別」、「体型」等である。
例えば、「撮影条件」としては、X線画像の撮影の場合であれば、撮影画像データを取得した際の管電圧、管電流、撮影時間、X線発生装置とセンサの距離、散乱線除去用グリッドの有無、センサ種別等を用いることができる。「画像処理条件」としては、階調処理用のパラメータ、鮮鋭度強調用のパラメータ、ノイズ抑制用のパラメータ等を用いることができる。「撮影画像データ数の比率」としては、胸部撮影、腹部撮影、肩関節撮影、腰椎撮影等の撮影画像種別ごとのデータ数の比率等を用いることができる。また、「撮影画像データ数の比率」として、年齢、性別、体型ごとのデータ数の比率を用いるようにしてもよい。データ解析部1101は、上記の様な解析を、データ保持部102において画像データと共に保存されている情報や画像データそのものを解析することによって行う。
次に、ステップS1022において、評価用データ更新指示部1002は、データ解析部1101によるデータ解析の結果に基づいて評価用データの更新指示を行う。例えば、データ解析部1101により、胸部撮影が60%、腹部撮影が30%、腰椎撮影が10%という解析結果が得られたとする。この場合、評価用データ更新指示部1002は、胸部画像データの比率が60%、腹部画像データの比率が30%、腰椎画像データの比率が10%となるように、評価用データの更新指示を出す。なお、変形例4では解析結果と更新指示の比率を同じとしたがこれに限られるものではない。例えば、評価用データ更新指示部1002は、解析結果に基づいて比率を決定すればよい。例えば、前回の更新指示の内容と解析結果の両方を用いて(例えば両者の平均を用いて)更新指示を作成するようにしてもよい。ステップS1023において、評価用データ更新指示に従って評価用データを更新する。ステップS1023は第2実施形態(図10(b)のS1023)と同様である。
以上のステップS1021からS1023の処理を行うことにより、評価用データの更新が可能となる。このように医用情報取得部110毎のデータ保持部102に保持されているデータを解析し、医用情報取得部110に適した評価用データへと更新することができる。これにより、機械学習によって性能が変化した場合においても、臨床上必要な性能を正確に評価することが可能となる。
上記第2実施形態および変形例3~4において、評価用データを更新するためのデータを選択して評価用データ保持部105に提供する評価用データ配信部801をクラウドに設ける例を示したが、これに限られるものではない。例えば、情報処理装置10の内部に設けられてもよい。例えば、USBメモリ、ネットワーク上の格納装置などにより提供される評価用データから、情報処理装置10内の評価用データ配信部801が評価データの更新に用いるデータを選択し、評価用データ保持部105を更新するようにしてもよい。
<第3実施形態>
第2実施形態では、評価用データ保持部105を更新するための評価用データを外部から取得した。第3実施形態では、医用情報取得部110において取得されたデータの一部を妥当性検証のための評価用データとして使用し、他の一部を学習用データとして使用する医用情報処理装置100について説明する。第3実施形態による医用情報処理装置100の構成を図12に基づいて説明する。図12は、第3実施形態による医用情報処理装置100の機能構成例を示すブロック図である。医用情報処理装置100のハードウエア構成例は第1実施形態(図15)と同様である。図12において第1実施形態(図1)と同様の構成には同一の参照番号を付してある。
第3実施形態の医用情報処理装置100は、第1実施形態(図1)の構成に加えて、データ指定部1201および学習用データ保持部1202を有する。データ指定部1201はデータ保持部102、評価用データ保持部105、学習用データ保持部1202と接続している。データ指定部1201は、データ保持部102に保持されているデータから評価用データの更新に用いるデータ、学習用データに用いるデータを指定し、更新する。すなわち、データ指定部1201は、データ保持部102に保持されている画像データのうち少なくとも一部を評価用データとするように、評価用データ保持部105に保持される評価用データを更新する。また、データ指定部1201は、データ保持部102に保持されている画像データのうち少なくとも一部を学習用データとするように、学習用データ保持部1202に保持される学習用データを更新する。
次に、図13に従い、第3実施形態による医用情報処理装置100の動作を説明する。図13において、第1実施形態(図2)と同様の処理には同一のステップ番号を付してある。まず、ステップS201において、撮影部101は被写体の放射線画像および照射野情報を得る。ステップS202において、データ保持部102は撮影部101で得られた放射線画像および照射野情報を保持する。ステップS1301において、データ指定部1201は、データ保持部102に保持されたデータを読み出し、評価用データもしくは学習用データとして指定する。評価用データとして指定されたデータは評価用データ保持部105に出力され、学習用データとして指定されたデータは学習用データ保持部1202に出力される。こうして、評価用データと学習用データがそれぞれ更新される。データ指定部1201によるデータの指定方法の詳細は後述する。
ステップS203にて、学習部103は学習用データ保持部1202内の学習用データとして指定されたデータを用いて機械学習を行い、学習結果を得る。ステップS204にて、評価部104は評価用データ保持部105に保持されている評価用データを用いて、学習部103により出力された学習結果の性能評価を行い、評価結果を出力する。ステップS205において、表示部106は評価部104が出力した評価結果を表示する。ステップS206において、パラメータ更新部107は、評価結果により妥当性があると判断した場合、撮影部101内の照射野認識機能におけるパラメータを更新する。以上のようにステップS201からS206、S1301の処理を行うことによって機械学習の妥当性検証が可能となる。
第3実施形態では、学習の対象となっている医用情報取得部110で取得されたデータを妥当性検証に用いることにより、臨床上必要な性能をより正確に測定することが可能である。第3実施形態による評価用データの更新方法を用いることで、撮影条件、撮影方法など、施設毎に傾向の異なる複数の医用情報取得部110が存在しても、評価用データ保持部105は、それぞれの医用情報取得部110に適切な評価用データを保持できる。また、医用情報処理装置100内の全ての構成要素が同じ施設内にある場合は、インターネットの通信環境が無い場合においても、性能変化後の妥当性確認が可能となる。
次に図14(a)、(b)を参照して、上述のデータ指定部1201によるデータ指定方法の詳細を説明する。図14(a)はデータ指定部1201の機能構成例を示したブロック図である。図14(a)に示されるように、データ指定部1201はデータ入力部1401、データタグ解析部1402、データ選択部1403、データ出力部1404を有する。図14(b)は、データ指定部1201の動作を説明するフローチャートである。
ステップS1421において、データ入力部1401はデータ保持部102から画像データおよび照射野情報を入力する。尚、画像データには付帯情報として、撮影条件、撮影部位、撮影者、撮影箇所、撮影日時等のデータタグが付帯している。次に、ステップS1422において、データタグ解析部1402は、データ入力部1401が入力した画像データの付帯情報を解析する。本実施形態では、画像データの撮影者が指定されたユーザーであるか否か等を解析する。次に、ステップS1423において、データ選択部1403はデータタグ解析部1402の解析結果に基づいて、その画像データを評価用データとするか、学習用データとするか選択する。本実施形態では、画像データの撮影者が指定されたユーザーであった場合は評価用データとし、それ以外の場合では学習用データとする。このようにすることで、信頼されたユーザーによって撮影された正確なデータを評価用データとすることが可能である。次に、ステップS1424にてデータ出力部1404はデータ選択部1403で選択された結果に基づいて、データを評価用データ保持部105もしくは学習用データ保持部1202に出力する。
以上、ステップS1421からS1424の処理を行うことにより、データ指定部1201によるデータ指定を行うことが可能となる。このように画像データを種類に応じて評価用データ、学習用データとすることにより、妥当性検証にふさわしいデータを選択することが可能となる。
尚、第3本実施形態では、指定されたユーザーであるか否かにより評価用データとして用いるか学習用データとして用いるかを判定したが、もちろんこれに限られるものではない。例えば、撮影時間帯が午前中であるか否か、撮影場所が病室、手術室、撮影室のいずれであるか、撮影部位が胸部、腹部、骨のいずれであるか等、あるいはそれらのうちのいくつかの組み合わせが用いられても良い。例えば、撮影部位の撮影頻度に応じて、評価用データとして用いるデータをデータ保持部102から選択するようにすることにより、実際の運用状況に近い形で性能評価が可能となる。例えば、胸部の撮影頻度が70%、腹部の撮影頻度が20%、骨の撮影頻度が10%であった場合は、評価用データもそのような比率になるように、それぞれの撮影部位のデータを選択すればよい。
また、第3実施形態ではデータ保持部102内のデータの全てを用いる必要はなく、一部を評価用データと学習用データとに振り分けるようにしても良い。この場合、データ指定部1201は、評価用データ、学習用データおよび評価にも学習にも使用しないデータの3つを指定することになる。このようにすることで評価、学習に対するシステム負荷を調整することが可能である。
[変形例5]
第3実施形態では画像データのデータタグ(付帯情報)を解析することによって、評価用データとして用いるか、学習用データとして用いるかの選択を行った。変形例5では、データ保持部102より得られた画像データに対して変更を行うことで評価用データまたは学習用データを生成する。図示を省略するが、データタグ解析部1402に代えて、上述の様に画像データを変更するデータ変更部が設けられる。画像データの変更とは、階調処理(ノイズ付与、輝度変更、コントラスト変更)、回転、平行移動、変形、拡大、縮小、等である。データ選択部1403は、変更された画像データと処理結果の組と、変更前の画像データと処理結果の組の一方の組を評価部104が用いる評価用データに指定し、他方の組を学習部103が用いる学習用データに指定する。ここで、処理結果とは、変更前の画像データについて処理装置42の機能による処理を実行した結果である。例えば、データ選択部1403は、データ変更部により変更されたデータと処理結果を学習用データ、変更されていないデータ(変更前のデータ)と処理結果を評価用データとして指定する。この場合、学習用データ数を増やすことが可能であり、また診療に用いたデータを評価用データとすることが可能となる。また、データ選択部1403において、データ変更部による変更前のデータと処理結果を学習用データとして選択し、変更されたデータと処理結果の少なくとも一部を評価用データとして選択するようにしてもよい。このようにした場合、評価用データを増やすことが可能となる。
[変形例6]
第3実施形態ではデータタグ解析によって、変形例5では変更された画像データか否かによって、評価用データ、学習用データへの選択を行った。変形例6では、直接ユーザーが選択画面によって評価用データを選択する。表示部106は、データ保持部102に保持されている画像データ、照射野情報、付帯情報等を選択画面に表示し、ユーザーはそれらを参考にして、表示中の画像データを評価用データとして用いるか学習用データとして用いるかを指定する。このようにすることによって、性能評価に適した画像を評価用データとしてユーザーが選択することができ、妥当性の判断を行いやすくすることが可能となる。
[変形例7]
第3実施形態ではデータタグ解析によって評価用データとして用いるか、学習用データして用いるかの選択を行った。変形例7では、画像データそのものを解析することによって評価用データとして用いるか学習用データとして用いるかを選択する。変形例7では、図14(a)のデータタグ解析部1402を画像データ解析部に代え、画像データ解析部は、画像データを解析して、画像データ内に金属のある画像とない画像を区別する。データ選択部1403は、その解析結果に基づいて、すなわち、画像中の金属の有無に応じて、各画像データを評価用データ、或は学習用データとして選択する。
なお、上記では画像内金属の有無を、評価用データまたは学習用データという用途の選択の基準に用いたがこれに限られるものではない。例えば、画像内のノイズの指標、鮮鋭性の指標、体格の指標などを用途選択の基準として用いてよい。また照射野情報によって用途選択を行うことも可能である。例えば、放射線検出器面に対する照射野の角度、照射野のサイズ、縦横比、円、四角、多角形等の形状に関してその偏りが生じないようにデータを選択してもよい。またそれらの比率を、医用情報取得部110の撮影部101によって撮影される画像データの比率に応じて決定するようにしてもよい。このようにすることによって、評価用データ内容の偏った分布によって、妥当性検証が十分に出来ないことを低減することが可能となる。
なお、実施形態および変形例において上述した構成は、任意に組み合わせて用いることが可能である。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:医用情報処理装置、101:撮影部、102:データ保持部、103:学習部、104:評価部、105:評価用データ保持部、106:表示部、107:パラメータ更新部

Claims (20)

  1. 医用情報処理装置であって、
    医用情報を取得する取得手段と、
    前記医用情報を用いて前記医用情報処理装置内の機能に対して機械学習を行う学習手段であって、該機能により処理して得られる結果として領域情報を含む画像認識と、該機能により処理して得られる結果として画像処理条件を処理結果に含む画像処理と、該機能により処理して得られる結果として病変位置情報を処理結果に含む診断支援とのいずれかに関する機械学習を行う前記学習手段と、
    前記学習手段による学習結果を評価するための評価用データであって、医用画像と、前記画像認識と前記画像処理と前記診断支援とのそれぞれに関する正解が既知となっている正解データとを含む評価用データを、撮影形態ごとに保持する評価用データ保持手段と、
    前記評価用データ保持手段に保持されている評価用データのうちの、前記機能の種別と前記医用情報に基づく撮影形態とに応じて選択された評価用データに基づいて、前記画像認識と前記画像処理と前記診断支援とのいずれかに関する機械学習により取得された学習結果を用いて前記評価用データに含まれる医用画像を処理して得た結果と、前記評価用データに含まれる正解データとを互いに対応する画素毎に比較して得た結果を用いて、前記学習結果を評価する評価手段と、を備える医用情報処理装置。
  2. 前記評価手段は、前記学習手段が行う機械学習の内容に関連する評価用データを前記評価用データ保持手段から読み込み、学習結果を評価することを特徴とする請求項1に記載の医用情報処理装置。
  3. 前記評価手段による評価に基づいて、前記機能によって用いられるパラメータを更新するパラメータ更新手段をさらに備える、請求項1または2に記載の医用情報処理装置。
  4. 前記パラメータ更新手段は、前記学習手段が行う機械学習による学習結果が向上した場合、前記機能におけるパラメータを更新する、請求項3に記載の医用情報処理装置。
  5. 前記評価用データ保持手段に保持されている評価用データを保護する評価用データ保護手段をさらに備える、請求項1乃至4のいずれか1項に記載の医用情報処理装置。
  6. 前記学習手段による学習結果を保持する学習結果保持手段と、
    前記学習結果保持手段に保持されている学習結果を保護する学習結果保護手段と、をさらに備える、請求項1乃至5のいずれか1項に記載の医用情報処理装置。
  7. 前記保護は、デジタル署名やハッシュ化による一致性の確認により行う、請求項5または6に記載の医用情報処理装置。
  8. 前記評価用データ保持手段に保持されている評価用データを更新するための評価用データを配信する評価用データ配信手段をさらに備え、
    前記評価用データ保持手段は、配信された評価用データを用いて保持されている評価用データを更新する、請求項1乃至のいずれか1項に記載の医用情報処理装置。
  9. 前記評価用データ配信手段は、前記医用情報処理装置が設置されている施設の種類、前記医用情報処理装置が設置されている地域の種類、および前記医用情報処理装置が有する撮影システムの種類の少なくとも一つに基づいて配信する評価用データを決定する、請求項に記載の医用情報処理装置。
  10. 撮影手段により得られた画像データと、前記画像データに前記機能を適用して得られた処理結果を保持するデータ保持手段をさらに備え、
    前記評価用データ配信手段は前記データ保持手段で保持された画像データの解析結果に基づいて、前記評価用データ保持手段を更新するための評価用データを選択し、配信する、請求項またはに記載の医用情報処理装置。
  11. 前記解析結果は、前記データ保持手段に保持されている画像データの撮影条件、画像処理条件、撮影部位による分類ごとのデータ数の比率、被写体の属性による分類ごとのデータ数の比率、の少なくとも一つを含む、請求項10に記載の医用情報処理装置。
  12. 撮影手段により得られた画像データと、前記画像データに前記機能を適用して得られた処理結果を保持するデータ保持手段と、
    前記データ保持手段に保持されている画像データのうち少なくとも一部を前記評価用データとするように、前記評価用データ保持手段に保持される評価用データを更新する更新手段と、をさらに備える、請求項1乃至のいずれか1項に記載の医用情報処理装置。
  13. 前記更新手段は、前記データ保持手段に保持されている画像データと処理結果を、前記画像データに付されている付帯情報に基づいて、前記評価用データとして用いるか、前記学習手段の学習用データとして用いるかを指定する、請求項12に記載の医用情報処理装置。
  14. 前記データ保持手段に保持されている画像データを変更する変更手段をさらに備え、
    前記更新手段は、前記変更手段によって変更された画像データと処理結果の組と、変更前の画像データと処理結果の組の一方の組を前記評価手段が用いる評価用データに指定し、他方の組を前記学習手段が用いる学習用データに指定する、請求項12に記載の医用情報処理装置。
  15. 前記変更手段は、画像データの回転、平行移動、変形、拡大、縮小、ノイズ付与、輝度変更、コントラスト変更の少なくとも一つを行うことを特徴とする請求項14に記載の医用情報処理装置。
  16. 前記画像認識に関する評価用データに含まれる前記正解データは、照射野領域と解剖学的領域と病変領域との少なくとも一つを前記領域情報として含む、請求項1乃至15のいずれか1項に記載の医用情報処理装置。
  17. 前記画像処理に関する評価用データに含まれる前記正解データは、階調処理条件とノイズ処理条件との少なくとも一つを前記画像処理条件として含む、請求項1乃至16のいずれか1項に記載の医用情報処理装置。
  18. 前記互いに対応する画素毎に比較した結果として互いに一致した画素の数あるいは不一致であった画素の数を用いて得た一致率を用いて、前記学習結果を評価する、請求項1乃至17のいずれか1項に記載の医用情報処理装置。
  19. 医用情報を取得する取得工程と、
    前記医用情報を用いて医用情報処理装置内の機能に対して機械学習を行う学習工程であって、該機能により処理して得られる結果として領域情報を含む画像認識と、該機能により処理して得られる結果として画像処理条件を含む画像処理と、該機能により処理して得られる結果として病変位置情報を含む診断支援とのいずれかに関する機械学習を行う前記学習工程と、
    前記学習工程による学習結果を評価するための評価用データであって、医用画像と、前記画像認識と前記画像処理と前記診断支援とのそれぞれに関する正解が既知となっている正解データとを含む評価用データを、撮影形態ごとに記憶手段に保持する評価用データ保持工程と、
    前記記憶手段に保持されている評価用データのうちの、前記機能の種別と前記医用情報に基づく撮影形態とに応じて選択された評価用データに基づいて、前記画像認識と前記画像処理と前記診断支援とのいずれかに関する機械学習により取得された学習結果を用いて前記評価用データに含まれる医用画像を処理して得た結果と、前記評価用データに含まれる正解データとを互いに対応する画素毎に比較して得た結果を用いて、前記学習結果を評価する評価工程と、を備えることを特徴とする医用情報処理方法。
  20. 請求項1乃至18のいずれか1項に記載された医用情報処理装置の各手段としてコンピュータを機能させるためのプログラム。
JP2018152719A 2018-08-14 2018-08-14 医用情報処理装置及び医用情報処理方法、プログラム Active JP7370694B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018152719A JP7370694B2 (ja) 2018-08-14 2018-08-14 医用情報処理装置及び医用情報処理方法、プログラム
PCT/JP2019/023051 WO2020035991A1 (ja) 2018-08-14 2019-06-11 医用情報処理装置及び医用情報処理方法、プログラム
US17/163,928 US12131235B2 (en) 2018-08-14 2021-02-01 Medical information processing apparatus, medical information processing method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018152719A JP7370694B2 (ja) 2018-08-14 2018-08-14 医用情報処理装置及び医用情報処理方法、プログラム

Publications (2)

Publication Number Publication Date
JP2020027506A JP2020027506A (ja) 2020-02-20
JP7370694B2 true JP7370694B2 (ja) 2023-10-30

Family

ID=69524829

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018152719A Active JP7370694B2 (ja) 2018-08-14 2018-08-14 医用情報処理装置及び医用情報処理方法、プログラム

Country Status (3)

Country Link
US (1) US12131235B2 (ja)
JP (1) JP7370694B2 (ja)
WO (1) WO2020035991A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3337419B1 (en) * 2015-08-19 2020-08-12 Brainlab AG Reference array holder
JP7373273B2 (ja) 2018-12-14 2023-11-02 キヤノン株式会社 画像処理装置、画像処理方法、医用情報処理装置、医用情報処理方法、放射線撮影システム及びプログラム
JP7454456B2 (ja) 2020-06-25 2024-03-22 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
US12026148B2 (en) * 2021-03-24 2024-07-02 International Business Machines Corporation Dynamic updating of digital data

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011212094A (ja) 2010-03-31 2011-10-27 Fujifilm Corp 診断支援システム、診断支援装置、診断支援方法および診断支援プログラム
JP2012159886A (ja) 2011-01-28 2012-08-23 Fujitsu Ltd 情報照合装置、情報照合方法および情報照合プログラム
JP2016198197A (ja) 2015-04-08 2016-12-01 株式会社エクスメディオ 診断支援システムおよびアプリケーションプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04261649A (ja) 1990-08-20 1992-09-17 Fuji Photo Film Co Ltd 放射線画像解析方法および装置
JP5333080B2 (ja) * 2009-09-07 2013-11-06 株式会社日本自動車部品総合研究所 画像認識システム
WO2014155690A1 (ja) 2013-03-29 2014-10-02 富士通株式会社 モデル更新方法、装置、およびプログラム
JPWO2017017722A1 (ja) 2015-07-24 2018-05-24 オリンパス株式会社 処理装置、処理方法及びプログラム
JP2017185007A (ja) 2016-04-05 2017-10-12 株式会社島津製作所 放射線撮影装置、放射線画像の対象物検出プログラムおよび放射線画像における対象物検出方法
JP6701979B2 (ja) 2016-06-01 2020-05-27 富士通株式会社 学習モデル差分提供プログラム、学習モデル差分提供方法、および学習モデル差分提供システム
JP6688536B2 (ja) * 2016-09-07 2020-04-28 エレクタ、インク.Elekta, Inc. 放射線療法治療計画のモデルを学習して放射線療法の線量分布を予測するためのシステムおよび方法
JP2018061771A (ja) * 2016-10-14 2018-04-19 株式会社日立製作所 画像処理装置、及び画像処理方法
CN106682427A (zh) 2016-12-29 2017-05-17 平安科技(深圳)有限公司 基于位置服务的个人健康状态评估方法及装置
US11517768B2 (en) * 2017-07-25 2022-12-06 Elekta, Inc. Systems and methods for determining radiation therapy machine parameter settings
JP7022543B2 (ja) 2017-09-11 2022-02-18 キヤノン株式会社 乳房撮影装置、乳房撮影装置の制御方法及びプログラム
JP2019084158A (ja) 2017-11-08 2019-06-06 キヤノン株式会社 画像処理装置、画像処理方法、放射線撮影装置、放射線撮影装置の制御方法、およびプログラム
JP6976360B2 (ja) 2018-01-30 2021-12-08 富士フイルム株式会社 データ処理装置及び方法、認識装置、学習データ保存装置、機械学習装置並びにプログラム
JP7273470B2 (ja) * 2018-08-14 2023-05-15 キヤノン株式会社 医用情報処理装置及び医用情報処理方法、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011212094A (ja) 2010-03-31 2011-10-27 Fujifilm Corp 診断支援システム、診断支援装置、診断支援方法および診断支援プログラム
JP2012159886A (ja) 2011-01-28 2012-08-23 Fujitsu Ltd 情報照合装置、情報照合方法および情報照合プログラム
JP2016198197A (ja) 2015-04-08 2016-12-01 株式会社エクスメディオ 診断支援システムおよびアプリケーションプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
森田 皆人,1階のデータ項を用いた多臓器同時セグメンテーション,情報処理学会 研究報告 コンピュータビジョンとイメージメディア(CVIM),日本,情報処理学会,2014年05月08日,p.1-7

Also Published As

Publication number Publication date
WO2020035991A1 (ja) 2020-02-20
JP2020027506A (ja) 2020-02-20
US20210158218A1 (en) 2021-05-27
US12131235B2 (en) 2024-10-29

Similar Documents

Publication Publication Date Title
Korez et al. A deep learning tool for fully automated measurements of sagittal spinopelvic balance from X-ray images: performance evaluation
JP5643304B2 (ja) 胸部トモシンセシスイメージングにおけるコンピュータ支援肺結節検出システムおよび方法並びに肺画像セグメント化システムおよび方法
US11176671B2 (en) Medical image processing apparatus, and method
US11914918B2 (en) Medical information processing apparatus, medical information processing method, and non-transitory computer-readable storage medium
US12131235B2 (en) Medical information processing apparatus, medical information processing method, and non-transitory computer-readable storage medium
EP3484369B1 (en) Spectral computed tomography fingerprinting
Lin et al. An image‐based technique to assess the perceptual quality of clinical chest radiographs
De Silva et al. Registration of MRI to intraoperative radiographs for target localization in spinal interventions
US9846939B2 (en) Image display apparatus and image display method
CN107752979B (zh) 人工投影的自动生成方法、介质和投影图像确定装置
US20220076430A1 (en) Heatmap and atlas
US10083503B2 (en) Image area specification device and method, and X-ray image processing device and method
US10089728B2 (en) Radiation-image processing device and method
JP2020006150A (ja) 基準系の妥当性
US10475180B2 (en) Radiation-image processing device and method
Ikwuezunma et al. Case of the missing vertebra: a report of a radiographic stitching error in a scoliosis patient
KR20260022127A (ko) X선 이미지 검증을 위한 장치 및 방법
Chawla Correlation Imaging for improved cancer detection

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231018

R151 Written notification of patent or utility model registration

Ref document number: 7370694

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151