JP7185242B2 - Program and diagnostic imaging aid - Google Patents
Program and diagnostic imaging aid Download PDFInfo
- Publication number
- JP7185242B2 JP7185242B2 JP2021502177A JP2021502177A JP7185242B2 JP 7185242 B2 JP7185242 B2 JP 7185242B2 JP 2021502177 A JP2021502177 A JP 2021502177A JP 2021502177 A JP2021502177 A JP 2021502177A JP 7185242 B2 JP7185242 B2 JP 7185242B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- tumor
- probability
- breast
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Clinical applications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Veterinary Medicine (AREA)
- Surgery (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Radiology & Medical Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- High Energy & Nuclear Physics (AREA)
- Optics & Photonics (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Description
本発明は、記憶媒体、画像診断補助装置、学習装置、及び、学習済みモデルの生成方法に関する。 The present invention relates to a storage medium, an image diagnosis assisting device, a learning device, and a method of generating a trained model.
従来から、人体の乳房に腫瘍があるか否かを医師が診断するための画像診断補助装置が知られている。 2. Description of the Related Art Conventionally, there has been known an image diagnosis assisting device for a doctor to diagnose whether or not there is a tumor in the breast of a human body.
これに関して、例えば特許文献1には、乳房が写った乳房医療画像を学習済みの学習器に入力して、腫瘍の候補となる領域(腫瘍候補領域)と、乳腺の領域とを検出し、腫瘍候補領域の中から、乳腺の領域以外の領域における腫瘍候補領域を除去して、残った腫瘍候補領域が腫瘍であると判定する技術が開示されている。
In this regard, for example, in
しかしながら、特許文献1に記載の技術では、例えば乳腺の領域のサイズや位置が間違って検出された場合には、実際には腫瘍領域であるはずの腫瘍候補領域まで除去されてしまう可能性があり、腫瘍の判定精度が十分ではなかった。
However, with the technique described in
本発明はこのような課題に鑑みてなされたものであり、その目的は、乳房医療画像において腫瘍の判定精度を向上することができる記憶媒体、画像診断補助装置、学習装置、及び、学習済みモデルの生成方法を提供することにある。 The present invention has been made in view of such problems, and an object of the present invention is to provide a storage medium, an image diagnosis assisting device, a learning device, and a trained model that can improve the accuracy of tumor determination in breast medical images. To provide a method for generating
上記課題を解決するために、本発明の第一態様に係る記憶媒体は、コンピュータを、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段、前記検出手段にて検出された複数の領域の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段、前記判定手段の判定結果を出力する出力手段、として機能させるプログラムを記憶する。 In order to solve the above problems, a storage medium according to a first aspect of the present invention causes a computer to input a breast medical image of a human breast to a learner constructed of a learned model in which machine learning has been performed. By doing so, a detection means for detecting a first region that is a tumor candidate in the breast medical image and a second region that is a tissue candidate other than the tumor in the breast medical image, and the detection means A program is stored that functions as determination means for determining whether or not the first region is a tumor based on the positional relationship of the plurality of detected regions, and output means for outputting the determination result of the determination means.
また、本発明の第二態様に係る記憶媒体では、前記検出手段は、前記第二領域として、骨の候補となる領域と、筋肉の候補となる領域とを検出する。 Further, in the storage medium according to the second aspect of the present invention, the detection means detects, as the second regions, a bone candidate region and a muscle candidate region.
また、本発明の第三態様に係る記憶媒体では、前記検出手段は、前記第一領域として、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とを検出し、前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。 Further, in the storage medium according to the third aspect of the present invention, the detection means may include, as the first regions, a region associated with a probability of being a malignant tumor and a region associated with a probability of being a benign tumor. and the determination means determines that the first region is a benign tumor based on the probability associated with the region detected by the detection means when the first region is detected as a tumor or malignant tumor.
また、本発明の第四態様に係る記憶媒体では、前記検出手段は、前記第一領域として、BI-RADS(Breast Imaging Reporting And Data System)カテゴリーに従って定義される各区分に属する腫瘍である確率が対応付けられた領域を検出し、前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域がどの区分に属する腫瘍であるかを判定する。 Further, in the storage medium according to the fourth aspect of the present invention, the detection means has a probability that the first region is a tumor belonging to each category defined according to the BI-RADS (Breast Imaging Reporting And Data System) category. The associated region is detected, and the determining means, when the first region is detected as a tumor, based on the probability associated with the region detected by the detecting means, determines the first It is determined which category a region belongs to.
また、本発明の第五態様に係る記憶媒体では、前記学習済みモデルは、腫瘍が写った複数の乳房医療画像から機械学習が行われた第一学習済みモデルと、前記他の組織が写った複数の乳房医療画像から機械学習が行われた第二学習済みモデルとを含み、前記検出手段は、前記乳房医療画像を前記第一学習済みモデルで構築された学習器に入力することで前記第一領域を検出し、且つ、前記乳房医療画像を前記第二学習済みモデルで構築された学習器に入力することで前記第二領域を検出する。 Further, in the storage medium according to the fifth aspect of the present invention, the trained models include a first trained model in which machine learning is performed from a plurality of breast medical images showing tumors, and a first trained model in which the other tissues are shown. a second trained model machine-learned from a plurality of breast medical images; Detecting a region and detecting the second region by inputting the breast medical image into a learner constructed with the second trained model.
また、本発明の第六態様に係る記憶媒体では、前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。 Further, in the storage medium according to the sixth aspect of the present invention, the first region is a region associated with a probability that the probability of being a tumor is equal to or greater than a first threshold, and the second region is a region other than the tumor. This is an area associated with a probability that the probability of being other tissue is equal to or greater than the second threshold.
また、本発明の第七態様に係る記憶媒体では、前記第二閾値は前記第一閾値よりも低い。 Also, in the storage medium according to the seventh aspect of the present invention, the second threshold is lower than the first threshold.
また、本発明の第八態様に係る記憶媒体では、前記出力手段は、前記判定手段の判定結果に基づき、医師をサポートするためのサポート情報を出力する。 Also, in the storage medium according to the eighth aspect of the present invention, the output means outputs support information for supporting a doctor based on the determination result of the determination means.
また、本発明の第九態様に係る画像診断補助装置は、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段と、前記検出手段にて検出された複数の領域に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段と、前記判定手段の判定結果を出力する出力手段と、を備える。 Further, in the image diagnosis assisting device according to the ninth aspect of the present invention, by inputting a breast medical image showing a human breast to a learner constructed by a learned model on which machine learning has been performed, the breast medical image A detection means for detecting a first region that is a tumor candidate in an image and a second region that is a tissue candidate other than the tumor in the breast medical image; and a plurality of regions detected by the detection means. determining means for determining whether or not the first region is a tumor based on; and output means for outputting a determination result of the determining means.
また、本発明の第十態様に係る学習装置は、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する画像取得手段と、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得する教師データ取得手段と、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデルを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデルを生成する学習処理手段と、を備える。 Further, the learning device according to the tenth aspect of the present invention acquires a plurality of first breast medical images showing a tumor and a plurality of second breast medical images showing tissues other than the tumor. acquiring localization information of the tumor in the plurality of first breast medical images as first training data, and localizing the other tissue in the plurality of second breast medical images, based on a means and a user's operation; a teacher data acquisition means for acquiring information as teacher data; and machine learning by inputting a set of the plurality of first breast medical images and the first teacher data to obtain a first tumor candidate in a predetermined breast medical image. generating a first trained model for detecting a region, and machine learning by inputting the plurality of second breast medical images and the second teacher data set, and performing machine learning to detect a non-tumor in a predetermined breast medical image; learning processing means for generating a second trained model for detecting a second region that is a candidate for another tissue.
また、本発明の第十一態様に係る学習済みモデルの生成方法は、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得するステップと、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得するステップと、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデルを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデルを生成するステップと、をコンピュータが実行する。 Further, the method for generating a trained model according to the eleventh aspect of the present invention includes a plurality of first breast medical images showing a tumor, and a plurality of second breast medical images showing tissues other than the tumor. and obtaining localization information of the tumor in the plurality of first breast medical images as first training data based on a user's operation, and the other tissue in the plurality of second breast medical images a step of acquiring position specifying information of as training data; and performing machine learning by inputting a set of the plurality of first breast medical images and the first training data to obtain a first tumor candidate in a predetermined breast medical image generating a first trained model for detecting a region, and machine learning by inputting the plurality of second breast medical images and the second teacher data set, and performing machine learning to detect a non-tumor in a predetermined breast medical image; generating a second trained model for detecting a second region that is a candidate for other tissue.
本発明によれば、乳房医療画像において腫瘍の判定精度を向上することができる。 ADVANTAGE OF THE INVENTION According to this invention, the determination accuracy of the tumor can be improved in a breast medical image.
以下、添付図面を参照しながら本発明の実施形態(以下、「本実施形態」とも表記する。)について説明する。説明の理解を容易にするため、各図面において同一の構成要素及びステップに対しては可能な限り同一の符号を付して、重複する説明は省略する。 EMBODIMENT OF THE INVENTION Hereinafter, embodiment (it is also described as "this embodiment" hereafter.) of this invention is described, referring an accompanying drawing. In order to facilitate understanding of the description, the same components and steps are denoted by the same reference numerals as much as possible in each drawing, and overlapping descriptions are omitted.
<全体構成>
図1は、本発明の実施形態に係る画像診断システム1の全体構成の一例を示す模式図である。<Overall composition>
FIG. 1 is a schematic diagram showing an example of the overall configuration of a
図1に示すように、画像診断システム1は、学習装置10と、画像診断補助装置30と、を備える。
As shown in FIG. 1 , the
学習装置10は、画像診断補助装置30で利用される、例えばニューラルネットワーク等の学習器(プログラム)を構築する学習済みモデルを生成するように学習器の機械学習を行うコンピュータである。具体的には、学習装置10は、そして、乳房(の乳腺)及び腫瘍が写った複数の第一乳房医療画像及び複数の第一乳房医療画像における腫瘍の位置特定情報の組と、乳房及び腫瘍以外の他の組織が写った複数の第二乳房医療画像及び複数の第二乳房医療画像における他の組織の位置特定情報の組を学習データとして取得する。これらの学習データうち、第一乳房医療画像や第二乳房医療画像は入力データとして利用され、腫瘍の位置特定情報や他の組織の位置特定情報は教師データとして利用される。すなわち、学習装置10は、複数の第一乳房医療画像及び腫瘍の位置特定情報の組と、複数の第二乳房医療画像及び他の組織の位置特定情報の組とをそれぞれ入力して学習器の機械学習をする。
The
なお、「機械学習」とは、学習データに潜むパターンをコンピュータにより見つけ出すことであり、「学習器」は、そのような機械学習により所定のパターンを識別する能力を獲得可能なプログラムであり、その能力は学習モデルにより構築される。この学習器の種類は、ディープラーニング手法を用いた学習器やそれ以外の学習器であってもよく、特に限定されない。また、ディープラーニング手法としては、例えば、畳み込みニューラルネットワークや、敵対的生成ネットワーク、回帰結合型ニューラルネットワークが挙げられるが、特に限定されない。以下では、「学習器」が、畳み込みニューラルネットワークを用いた学習器である場合を説明する。また、「学習器」は、「識別器」又は「分類器」と称されてもよい。また、「位置特定情報」とは、腫瘍や他の組織が乳房医療画像においてどこに位置するかを特定するための情報であり、例えば腫瘍や他の組織の一又は複数の座標情報である。また、「他の組織」としては、骨や筋肉、乳腺、脂肪等が挙げられる。また、「学習モデル」は、学習器の設定(構築)を行うための各種パラメータ等を含むデータの集合である。また、「乳房医療画像」としては、医療用に用いられる、乳房のエコー画像、CT(Computed Tomography)画像、レントゲン画像、MRI(Magnetic Resonance Imaging)画像等が挙げられる。 "Machine learning" is to use a computer to find patterns hidden in learning data, and "learning device" is a program that can acquire the ability to identify a predetermined pattern through such machine learning. Competencies are built by learning models. The type of this learning device is not particularly limited and may be a learning device using a deep learning technique or another learning device. Deep learning techniques include, for example, convolutional neural networks, adversarial generative networks, and recursive neural networks, but are not particularly limited. Below, the case where the “learning device” is a learning device using a convolutional neural network will be described. A "learner" may also be referred to as a "classifier" or a "classifier." "Position specifying information" is information for specifying where a tumor or other tissue is located in a breast medical image, such as one or more pieces of coordinate information of a tumor or other tissue. "Other tissues" include bones, muscles, mammary glands, fat, and the like. A “learning model” is a set of data including various parameters for setting (constructing) a learning device. Further, the “breast medical image” includes breast echo images, CT (Computed Tomography) images, X-ray images, MRI (Magnetic Resonance Imaging) images, and the like, which are used for medical purposes.
上記のように、学習装置10にて生成された学習済みモデルは、例えばコンパクトディスクやUSBメモリ等の可搬型記憶媒体、又は、通信ネットワークNT等を介して画像診断補助装置30にインストールされる。なお、通信ネットワークNTの種類は、例えば、インターネット、無線通信網、移動通信網、電話網、専用網等から適宜選択されてよい。
As described above, the trained model generated by the
一方、画像診断補助装置30は、人体の内部の組織、特に乳房(の乳腺)の構造を画像化する装置である。本実施形態では、画像診断補助装置30は、乳房を画像化するだけでなく、画像化した後の乳房医療画像に基づいて乳房の腫瘍の有無を判定する。具体的には、画像診断補助装置30は、学習装置10にて生成された学習済みモデルで構築された学習器に乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する。そして、画像診断補助装置30は、検出した複数の領域の位置関係に基づいて、第一領域が腫瘍であるか否かを判定する。この画像診断補助装置30としては、超音波画像診断補助装置やX線撮影装置等が挙げられるが、特に限定されない。本実施形態では、画像診断補助装置30が、人体の乳房に超音波を送信し、乳房の組織からの反射(エコー)を画像化することで、人体の乳房医療画像を取得する超音波画像診断補助装置である場合を説明する。
On the other hand, the image
<ハードウェア構成>
図2は、図1に示す学習装置10のハードウェア構成の一例を示すブロック図である。<Hardware configuration>
FIG. 2 is a block diagram showing an example of the hardware configuration of the
図2に示すように、学習装置10は、互いに電気的に接続された、制御部12と、記憶装置14と、入力装置16と、出力装置18と、通信インターフェース20と、ドライブ22と、を備える。なお、図2では、通信インターフェースを「通信I/F」と記載している。
As shown in FIG. 2, the
制御部12は、ハードウェアプロセッサであるCPU(Central Processing Unit)12Aと、GPU(Graphics Processing Unit)12Bと、RAM(Random Access Memory)12Cと、ROM(Read Only Memory)12Dとを含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。
The
記憶装置14は、例えばハードディスクやROM等で構成される。この記憶装置14は、学習プログラム14Aと、学習データ14Bと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを記憶する。学習プログラム14Aは、学習データ14Bを機械学習して学習結果データとして学習済みモデル(第一学習済みモデル14C及び第二学習済みモデル14D)を生成する学習器を含むプログラムである。学習データ14Bは、例えば、乳房及び腫瘍が写った複数の第一乳房医療画像及び複数の第一乳房医療画像における腫瘍の位置特定情報の組と、乳房及び腫瘍以外の他の組織が写った複数の第二乳房医療画像及び複数の第二乳房医療画像における他の組織の位置特定情報の組を含む。第一学習済みモデル14Cは、乳房医療画像において腫瘍の候補となる第一領域を学習器が検出するためのデータである。第二学習済みモデル14Dは、乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するためのデータである。
The
入力装置16は、例えば、マウス、キーボード等、学習装置10に入力操作を行うための装置である。
The
出力装置18は、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。ユーザは、入力装置16及び出力装置18を介して、学習装置10を操作することができる。
The
通信インターフェース20は、例えば、有線LAN(Local Area Network)モジュール、無線LANモジュール等であり、通信ネットワークNTを介した有線又は無線通信を行うためのインターフェースである。学習装置10は、当該通信インターフェース20を介して、生成した学習済みモデルを外部の装置に配信してもよい。
The
ドライブ22は、例えば、CDドライブ、DVDドライブ等であり、記憶媒体24に記憶されたプログラムやデータを読み込むためのドライブ装置である。ドライブ22の種類は、記憶媒体24の種類に応じて適宜選択されてよい。
The
記憶媒体24は、記録されたプログラム等の情報をコンピュータその他装置、機械等が読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する非一過性の媒体である。学習装置10は、この記憶媒体24から、上記学習プログラム14A及び/又は学習データ14Bを取得してもよい。ここで、図2では、記憶媒体24の一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体24の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。
The
なお、学習装置10の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部12は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。学習装置10は、複数台の情報処理装置で構成されてもよい。また、学習装置2は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、PC(Personal Computer)等であってもよい。
Regarding the specific hardware configuration of the
図3は、図1に示す画像診断補助装置30のハードウェア構成の一例を示すブロック図である。
FIG. 3 is a block diagram showing an example of the hardware configuration of the image
図3に示すように、画像診断補助装置30は、互いに電気的に接続された、制御部32と、記憶装置34と、表示装置36と、入力装置38と、超音波プローブ40と、送受信回路42と、信号処理回路44と、画像処理回路46と、を備える。
As shown in FIG. 3, the image
制御部32は、ハードウェアプロセッサであるCPU32Aと、GPU32Bと、RAM32Cと、ROM32Dとを含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。
The
記憶装置34は、例えばハードディスクやROM等で構成される。この記憶装置34は、腫瘍判定プログラム34Aと、第一学習済みモデル14Cと、第二学習済みモデル14D等を記憶する。腫瘍判定プログラム34Aは、超音波プローブ40から得られる乳房医療画像を、第一学習済みモデル14Cや第二学習済みモデル14Dで構築された学習器に入力することで、腫瘍の候補となる領域を検出し、実際にその領域が腫瘍であるか否かを判定するプログラムである。
The
表示装置36は、超音波プローブ40から得られる乳房医療画像やメニュー画面、画像診断補助装置30の設定画面等を表示する装置である。
The
入力装置38は、マウスやキーボード、ボタン、パネルスイッチ、タッチコマンドスクリーン、フットスイッチ、トラックボール、ジョイスティック等、画像診断補助装置30に入力操作を行うための装置である。
The
超音波プローブ40は、複数の振動子を有し、これら複数の振動子は、送受信回路42から供給される駆動信号に基づき超音波を発生する。また、超音波プローブ40が有する複数の振動子は、人体の乳房からの反射波を受信して電気信号に変換する。具体的には、超音波プローブ40から人体に超音波が送信されると、送信された超音波は、人体の体内組織における音響インピーダンスの不連続面で次々と反射され、反射波信号(エコー信号)として超音波プローブ40が有する複数の振動子にて受信される。受信される反射波信号の振幅は、超音波が反射される不連続面における音響インピーダンスの差に依存する。
The
送受信回路42は、超音波プローブ40に駆動信号を供給する。また、送受信回路42は、超音波プローブ40から超音波ビームを送信させる。そして、送受信回路42は、超音波プローブ40が受信した反射波信号から反射波データを生成する。
The transmission/
信号処理回路44は、例えば、送受信回路42から受信した反射波データに対して、各種処理を行って中間データを生成する。この中間データは、画像処理回路46に出力される。
For example, the
画像処理回路46は、信号処理回路44により生成された中間データから表示用の乳房医療画像を生成する。画像処理回路46で生成された乳房医療画像は、表示装置36にリアルタイムに表示される。
The
なお、画像診断補助装置30の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部12は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。画像診断補助装置30は、複数台の情報処理装置で構成されてもよい。
Regarding the specific hardware configuration of the image
<機能的構成>
図4は、図2に示す学習装置10の機能的構成(ソフトウェア構成)の一例を示すブロック図である。<Functional configuration>
FIG. 4 is a block diagram showing an example of the functional configuration (software configuration) of the
図4に示すように、学習装置10は、機能的構成として、記憶手段60と、画像取得手段62と、前処理手段64と、教師データ取得手段66と、学習処理手段68と、を備える。記憶手段60は、記憶装置14で実現される。その他の機能的構成は、学習プログラム14AをRAM12Cに展開し、当該RAM12Cに展開された学習プログラム14AをCPU12Aにより解釈及び実行することにより実現される。
As shown in FIG. 4, the
記憶手段60は、上述の学習データ14Bと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを記憶する機能を有する。
The storage means 60 has a function of storing the learning
画像取得手段62は、腫瘍が写った複数の第一乳房医療画像と、腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する機能を有する。本実施形態では、第一乳房医療画像は、良性腫瘍が写った画像と、悪性腫瘍が写った画像と、を含む。また、第二乳房医療画像は、骨が写った画像と、筋肉が写った画像と、を含む。 The image acquisition means 62 has a function of acquiring a plurality of first breast medical images showing a tumor and a plurality of second breast medical images showing tissues other than the tumor. In this embodiment, the first breast medical image includes an image showing a benign tumor and an image showing a malignant tumor. Also, the second breast medical image includes an image showing bones and an image showing muscles.
前処理手段64は、画像取得手段62が取得した乳房医療画像(第一乳房医療画像及び第二乳房医療画像)に対して各種の前処理を実行する機能を有する。具体的には、前処理手段64は、機械学習への悪影響回避のため、画像取得手段62が取得した乳房医療画像の画像コントラストを正規化する第一前処理を実行する。また、前処理手段64は、誤識別抑制のため、256段階の色表現を半分以下に削減する第二前処理を実行する。また、前処理手段64は、画像全体に対して占める割合の低い腫瘍を精度よく捉え、かつ腫瘍が分割されることを回避するため、オーバーラップさせながら細かく乳房医療画像を分割する第三処理を実行する。
The preprocessing means 64 has a function of performing various preprocessing on the breast medical images (the first breast medical image and the second breast medical image) acquired by the
教師データ取得手段66は、例えば、学習装置10のユーザの操作に基づき、前処理された複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前処理された複数の第二乳房医療画像において他の組織の位置特定情報を教師データとして取得する機能を有する。本実施形態では、医師の判断・操作に基づき、第一乳房医療画像及び第二乳房医療画像の中から良質な画像を抽出し、抽出した各第一乳房医療画像から良性腫瘍又は悪性腫瘍の位置特定情報を取得するとともに、抽出した各第二乳房医療画像から骨又は筋肉の位置特定情報を取得することで、良質な教師データを取得する。なお、位置特定情報は、医師が乳房医療画像において悪性腫瘍等の領域を指定することで得られる。この領域の形状は、矩形や円形、楕円等、特に限定されないが、例えば矩形である。矩形としては、例えば、悪性腫瘍等の輪郭に外接する外接矩形や、悪性腫瘍等の輪郭に内接する内接矩形等が挙げられる。本実施形態では、位置特定情報は外接矩形で指定される。
For example, based on the operation of the user of the
学習処理手段68は、複数の第一乳房医療画像及び第一教師データの組と、複数の第二乳房医療画像及び第二教師データの組とをそれぞれ入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域と、当該所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出するための学習済みモデル、を生成する機能を有する。本実施形態では、学習処理手段68は、複数の第一乳房医療画像及び第一教師データの組を入力して機械学習(第一学習処理)し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデル14Cを生成する。また、学習処理手段68は、複数の第二乳房医療画像及び第二教師データの組を入力して機械学習(第二学習処理)し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデル14Dを生成する。なお、機械学習の学習回数は、特に限定されないが、感度及び特異度を両方高めるという観点から、例えば2万回以上6万回以下であることが好ましく。4万回以上6万回以下であることがより好ましい。なお、「感度」とは、病気な人(腫瘍がある人)の中で、検査で発見できる確率である。また、「特異度」とは、元気な人に対して、病気でない(腫瘍がない)と判定する確率である。
The learning processing means 68 inputs sets of a plurality of first breast medical images and first teacher data and sets of a plurality of second breast medical images and second teacher data, respectively, and performs machine learning to perform predetermined breast medical treatment. It has a function of generating a trained model for detecting a first region that is a tumor candidate in the image and a second region that is a tissue candidate other than the tumor in the predetermined breast medical image. In this embodiment, the learning processing means 68 inputs sets of a plurality of first breast medical images and first teacher data, performs machine learning (first learning processing), and becomes tumor candidates in predetermined breast medical images. A first trained
図5は、図3に示す画像診断補助装置30の機能的構成(ソフトウェア構成)の一例を示すブロック図である。
FIG. 5 is a block diagram showing an example of the functional configuration (software configuration) of the image
図5に示すように、画像診断補助装置30は、記憶手段70と、取得手段72と、検出手段74と、判定手段76と、出力手段78と、を備える。記憶手段70は、記憶装置34で実現される。その他の機能的構成は、腫瘍判定プログラム34AをRAM32Cに展開し、当該RAM32Cに展開された腫瘍判定プログラム34AをCPU32Aにより解釈及び実行することにより実現される。
As shown in FIG. 5 , the image
記憶手段70は、上述の第一学習済みモデル14Cと、第二学習済みモデル14Dと、を記憶する機能を有する。
The storage means 70 has a function of storing the above-described first trained
取得手段72は、超音波プローブ40等を駆動制御することで、人体の乳房が写った乳房医療画像を取得する機能を有する。なお、実際には、取得手段72は、乳房医療画像を乳房映像の一部としてリアルタイムに取得する。
The
検出手段74は、取得手段72にて取得された乳房医療画像を、機械学習が行われた学習済みモデルで構築された一又は複数の学習器に入力することで、学習器が演算処理し、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する機能を有する。本実施形態では、検出手段74は、乳房医療画像を第一学習済みモデル14Cで構築(設定)された学習器に入力することで第一領域を検出し、且つ、乳房医療画像を第二学習済みモデル14Dで構築された学習器に入力することで第二領域を検出する。
The detection means 74 inputs the breast medical image acquired by the acquisition means 72 to one or a plurality of learners constructed with trained models that have undergone machine learning, so that the learners perform arithmetic processing, It has a function of detecting a first region that is a tumor candidate in the breast medical image and a second region that is a tissue candidate other than the tumor in the breast medical image. In this embodiment, the detection means 74 detects the first region by inputting the breast medical image to the learner constructed (set) by the first trained
ここで、「腫瘍の候補となる第一領域」とは、例えば、腫瘍である確率が第一閾値以上の確率が対応付けられた領域である。また、「他の組織の候補となる第二領域」とは、例えば、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。本実施形態では、検出手段74は、良性腫瘍の候補となる第一領域として、良性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、悪性腫瘍の候補となる第一領域として、悪性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、を検出する。また、検出手段74は、骨の候補となる第二領域として、骨である確率が第二閾値以上の確率が対応付けられた領域と、筋肉の候補となる第二領域として、筋肉である確率が第二閾値以上の確率が対応付けられた領域と、を検出する。
Here, the “first region that is a candidate for tumor” is, for example, a region associated with a probability that the probability of being a tumor is equal to or greater than the first threshold. Also, the “second region that is a candidate for another tissue” is, for example, a region associated with a probability that the probability of being a tissue other than a tumor is equal to or greater than the second threshold. In the present embodiment, the detection means 74 uses, as the first regions to be benign tumor candidates, a region associated with a probability of being a benign tumor equal to or higher than a first threshold, and a first region to be a malignant tumor candidate. , a region associated with a probability that the probability of being a malignant tumor is equal to or greater than the first threshold is detected. Further, the detecting
なお、上記第一閾値と第二閾値は、同一であっても異なっていてもよい。例えば、他の組織は腫瘍に比べて候補を多く検出した方が結果的に腫瘍の判定精度が向上するという観点から、第二閾値が第一閾値よりも低いことが好ましい。第一閾値及び第二閾値は、腫瘍の候補の検出精度を高めるという観点から、5%以上100%以下であることが好ましく、10%以上50%以下であることがより好ましい。特に、第一閾値は、15%以上30%以下であることが更により好ましい。また、第二閾値は、10%以上20%以下であることが更により好ましい。本実施形態では、第一閾値は20%であり、第二閾値は10%である。 Note that the first threshold and the second threshold may be the same or different. For example, the second threshold is preferably lower than the first threshold from the viewpoint that the more candidates are detected for other tissues than the tumor, the more the tumor determination accuracy is improved. The first threshold and the second threshold are preferably 5% or more and 100% or less, more preferably 10% or more and 50% or less, from the viewpoint of increasing the detection accuracy of tumor candidates. In particular, it is even more preferable that the first threshold is 15% or more and 30% or less. Further, it is even more preferable that the second threshold is 10% or more and 20% or less. In this embodiment, the first threshold is 20% and the second threshold is 10%.
判定手段76は、検出手段74にて検出された複数の領域の位置関係に基づいて、第一領域が腫瘍であるか否かを判定する機能を有する。例えば、判定手段76は、良性腫瘍又は悪性腫瘍の候補となる第一領域の位置が、筋肉又は骨の候補となる第二領域の位置よりも上であれば腫瘍であると肯定判定し、筋肉又は骨の候補となる第二領域の位置よりも下であれば腫瘍でないと否定判定する。また、例えば、判定手段76は、良性腫瘍又は悪性腫瘍の候補となる第一領域の位置が、筋肉又は骨の候補となる第二領域の位置から閾値以上に離れている場合は腫瘍であると肯定判定し、筋肉又は骨の候補となる第二領域の位置未満しか離れていない場合は腫瘍でないと否定判定してもよい。なお、第一領域の位置と、第二領域の位置は、例えば、領域の中心点の位置であっても、領域の最も下の点の位置であってもよい。なお、上記位置関係において「上」とは、乳房医療画像において皮膚側を意味する。
The determination means 76 has a function of determining whether or not the first region is a tumor based on the positional relationship of the multiple regions detected by the detection means 74 . For example, if the position of the first region that is a candidate for benign or malignant tumor is higher than the position of the second region that is a candidate for muscle or bone, the determination means 76 makes a positive determination that it is a tumor. Alternatively, if it is below the position of the second region that is a candidate for bone, it is negatively judged as not being a tumor. Further, for example, the determining
また、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。例えば、判定手段76は、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とが重なった場合、判定手段76は、確率の高い方の腫瘍であると判定する。
Further, the determination means 76 determines whether the first region is a benign tumor or not based on the probability associated with the region detected by the detection means 74 when the first region is detected as a tumor Determine whether it is a malignant tumor. For example, when the region associated with the probability of being a malignant tumor and the region associated with the probability of being a benign tumor overlap, the determining
また、判定手段76は、検出手段74にて検出された他の組織の候補となる第二領域を、そのまま他の組織であると判定する。
Further, the determining
出力手段78は、判定手段76の判定結果を出力する機能を有する。例えば、出力手段78は、リアルタイムに表示装置36に表示される乳房医療画像に反映する。具体的には、出力手段78は、リアルタイムに取得・表示された乳房医療画像において判定手段76が腫瘍であると判定した領域を囲うように表示するとともに、その領域が腫瘍である旨を記述する。また、出力手段78は、乳房医療画像において他の組織であると判定した領域を囲うように表示するとともに、その領域が他の組織である旨を記述する。また、出力手段78は、医師による診断の邪魔とならないように、乳房医療画像の隅等に腫瘍であることを示す文字やマークを表示してもよい。また、出力手段78は、判定結果を音や紙媒体に出力してもよい。
The output means 78 has a function of outputting the determination result of the determination means 76 . For example, the output means 78 reflects breast medical images displayed on the
<処理手順>
図6は、学習装置10の各機能的構成の処理手順を示すフローチャートである。なお、以下のステップの処理の内容及び順番は適宜変更することができる。<Processing procedure>
FIG. 6 is a flow chart showing the processing procedure of each functional configuration of the
(ステップSP10)
画像取得手段62は、記憶手段60や他の記憶手段等から、乳房及び良性腫瘍が写った複数の第一乳房医療画像と、乳房及び悪性腫瘍が写った複数の第一乳房医療画像を取得する。また、画像取得手段62は、記憶手段60や他の記憶手段等から、乳房及び骨が写った複数の第二乳房医療画像と、乳房及び筋肉が写った第二乳房医療画像を取得する。この際、医師の判断・操作に基づき、第一乳房医療画像及び第二乳房医療画像の中から良質な画像のみが取得される。そして、処理は、ステップSP12の処理に移行する。(Step SP10)
Image acquisition means 62 acquires a plurality of first breast medical images showing breasts and benign tumors and a plurality of first breast medical images showing breasts and malignant tumors from storage means 60 or other storage means. . Further, the image acquisition means 62 acquires a plurality of second breast medical images showing breasts and bones and a second breast medical image showing breasts and muscles from the storage means 60 or other storage means. At this time, based on the doctor's judgment and operation, only high-quality images are acquired from the first breast medical image and the second breast medical image. Then, the process shifts to the process of step SP12.
(ステップSP12)
前処理手段64は、画像取得手段62が取得した各乳房医療画像に対して前処理を実行する。具体的には、前処理手段64は、画像取得手段62が取得した乳房医療画像の画像コントラストを正規化する第一前処理を実行する。また、前処理手段64は、各乳房医療画像に対して256段階の色表現を半分以下に削減する第二前処理を実行する。また、オーバーラップさせながら細かく各乳房医療画像を分割する第三前処理を実行する。なお、第一前処理、第二前処理、第三前処理を実行する順番は適宜変更することができる。また、これら前処理の全部又は一部は省略してもよい。そして、処理は、ステップSP14の処理に移行する。(Step SP12)
The preprocessing means 64 performs preprocessing on each breast medical image acquired by the
(ステップSP14)
教師データ取得手段66は、ユーザの操作に基づき、前処理された複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前処理された複数の第二乳房医療画像において他の組織の位置特定情報を第二教師データとして取得する。具体的には、教師データ取得手段66は、ユーザとしての医師の判断・操作に基づき、各第一乳房医療画像から良性腫瘍又は悪性腫瘍であることを示す識別情報と、その位置特定情報(矩形領域の領域情報)を第一教師データとして取得する。また、教師データ取得手段66は、医師の判断・操作に基づき、各第二乳房医療画像から骨又は筋肉であることを示す識別情報と、その位置特定情報(矩形領域の領域情報)を第二教師データとして取得する。これにより、学習装置10は、複数の第一乳房医療画像及び第一教師データの組と、複数の第二乳房医療画像及び第二教師データの組とを含む良質な学習データ14Bを取得する。この学習データ14Bは、記憶手段60に記憶される。そして、処理は、ステップSP16の処理に移行する。(Step SP14)
A teacher
(ステップSP16)
学習処理手段68は、ユーザの操作に基づき、第一学習済みモデル14Cを生成するための一又は複数の第一パラメータの設定を受け付ける。例えば、学習処理手段68は、第一パラメータとして、第一学習済みモデル14Cを生成する第一学習処理のための第一学習回数や第一閾値等の設定を受け付ける。そして、処理は、ステップSP18の処理に移行する。(Step SP16)
The learning processing means 68 accepts the setting of one or more first parameters for generating the first trained
(ステップSP18)
学習処理手段68は、ユーザの操作に基づき、第二学習済みモデルを生成するための一又は複数の第二パラメータの設定を受け付ける。例えば、学習処理手段68は、第二パラメータとして、第二学習済みモデル14Dを生成する第二学習処理のための第二学習回数や第二閾値等の設定を受け付ける。そして、処理は、ステップSP20の処理に移行する。(Step SP18)
The learning processing means 68 accepts the setting of one or more second parameters for generating the second trained model based on the user's operation. For example, the learning processing means 68 receives settings such as the second learning count and the second threshold value for the second learning process for generating the second trained
(ステップSP20)
学習処理手段68は、ユーザから、2つの学習処理、すなわち、第一学習処理及び第二学習処理を実行する実行操作を受け付ける。そして、処理は、ステップSP22の処理及びステップSP34の処理にそれぞれ移行する。なお、以下のステップSP22~ステップSP32の各処理と、ステップSP34~ステップSP44の各処理とは、並行して実行されるが、どちらか一方の各処理を実行した後、他方の各処理が実行されてもよい。(Step SP20)
The learning processing means 68 receives from the user an execution operation for executing two learning processes, that is, the first learning process and the second learning process. Then, the process moves to the process of step SP22 and the process of step SP34. Each process of steps SP22 to SP32 and each process of steps SP34 to SP44 below are executed in parallel, but after one of the processes is executed, the other process is executed. may be
(ステップSP22)
学習処理手段68は、設定された第一学習回数aだけ、ステップSP24~ステップSP30の処理を繰り返す(ループ処理)。すなわち、学習処理手段68は、変数iが第一学習回数aとなるまで、変数iを1からインクリメントしながら、ステップSP24~ステップSP30の処理を繰り返す。(Step SP22)
The learning processing means 68 repeats the processing of steps SP24 to SP30 for the set first learning times a (loop processing). That is, the learning processing means 68 repeats the processing of steps SP24 to SP30 while incrementing the variable i from 1 until the variable i reaches the first number of times of learning a.
(ステップSP24)
学習処理手段68は、腫瘍に係る学習データ14Bを初期状態の学習器に入力する。具体的には、学習処理手段68は、学習データ14Bとして、乳房及び腫瘍が写った第一乳房医療画像及び当該第一乳房医療画像における腫瘍の位置特定情報(腫瘍の識別情報を含む)の一組を初期状態の学習器に入力する。そして、処理は、ステップSP26の処理に移行する。(Step SP24)
The learning processing means 68 inputs the learning
(ステップSP26)
学習処理手段68は、入力した学習データ14Bに基づき、学習器に対して第一学習処理(機械学習)を実行させる。なお、この第一学習処理では、例えば、学習データ14Bに対して畳み込み処理やプーリング処理が繰り返される。そして、処理は、ステップSP28の処理に移行する。(Step SP26)
The learning processing means 68 causes the learning device to perform a first learning process (machine learning) based on the
(ステップSP28)
学習処理手段68は、学習器が生成する学習結果データに基づき、学習器の各種パラメータを更新する。そして、処理は、ステップSP30の処理に移行する。(Step SP28)
The learning processing means 68 updates various parameters of the learning device based on the learning result data generated by the learning device. Then, the process shifts to the process of step SP30.
(ステップSP30)
学習処理手段68は、変数iが第一学習回数a未満である場合には、処理はステップSP22の処理に戻り、変数iが第一学習回数aである場合にはループ処理を抜け、処理はステップSP32の処理に移行する。(Step SP30)
If the variable i is less than the first learning frequency a, the learning processing means 68 returns to step SP22. The process proceeds to step SP32.
(ステップSP32)
学習処理手段68は、ループ処理により最終的に更新された学習器の各種パラメータを第一学習済みモデル14Cとして記憶手段60に記憶する。そして、図6に示す一連の処理が終了する。(Step SP32)
The learning processing means 68 stores various parameters of the learning device finally updated by the loop processing in the storage means 60 as the first trained
(ステップSP34)
ステップSP20から移行された後、学習処理手段68は、設定された第二学習回数bだけ、ステップSP36~ステップSP42の処理を繰り返す(ループ処理)。すなわち、学習処理手段68は、変数jが第二学習回数bとなるまで、変数jを1からインクリメントしながら、ステップSP36~ステップSP42の処理を繰り返す。(Step SP34)
After moving from step SP20, the learning processing means 68 repeats the processing of steps SP36 to SP42 for the set second learning times b (loop processing). That is, the learning processing means 68 repeats the processing of steps SP36 to SP42 while incrementing the variable j from 1 until the variable j reaches the second number of times of learning b.
(ステップSP36)
学習処理手段68は、他の組織に係る学習データ14Bを初期状態の学習器に入力する。具体的には、学習処理手段68は、学習データ14Bとして、乳房及び他の組織が写った第二乳房医療画像及び当該第二乳房医療画像における他の組織の位置特定情報(他の組織の識別情報を含む)の一組を初期状態の学習器に入力する。そして、処理は、ステップSP38の処理に移行する。(Step SP36)
The learning processing means 68 inputs the learning
(ステップSP38)
学習処理手段68は、入力した学習データ14Bに基づき、学習器に対して第二学習処理(機械学習)を実行させる。なお、第二学習処理では、例えば、学習データ14Bに対して畳み込み処理やプーリング処理が繰り返される。そして、処理は、ステップSP40の処理に移行する。(Step SP38)
The learning processing means 68 causes the learning device to execute a second learning process (machine learning) based on the
(ステップSP40)
学習処理手段68は、学習器が生成する学習結果データに基づき、学習器の各種パラメータを更新する。そして、処理は、ステップSP42の処理に移行する。(Step SP40)
The learning processing means 68 updates various parameters of the learning device based on the learning result data generated by the learning device. Then, the process moves to the process of step SP42.
(ステップSP42)
学習処理手段68は、変数jが第二学習回数b未満である場合には、処理はステップSP34の処理に戻り、変数jが第二学習回数bである場合にはループ処理を抜け、処理はステップSP44の処理に移行する。(Step SP42)
The learning processing means 68 returns to the processing of step SP34 when the variable j is less than the second learning count b, and exits the loop processing when the variable j is the second learning count b. The process proceeds to step SP44.
(ステップSP44)
学習処理手段68は、ループ処理により最終的に更新された学習器の各種パラメータを第二学習済みモデル14Dとして記憶手段60に記憶する。そして、図6に示す一連の処理が終了する。(Step SP44)
The learning processing means 68 stores various parameters of the learning device finally updated by the loop processing in the storage means 60 as the second trained
図7は、画像診断補助装置30の各機能的構成の処理手順を示すフローチャートである。なお、以下のステップの処理の内容及び順番は適宜変更することができる。
FIG. 7 is a flow chart showing a processing procedure of each functional configuration of the image
(ステップSP50)
取得手段72は、超音波プローブ40を駆動制御して乳房医療画像を取得する。そして、処理は、ステップSP52の処理及びステップSP56の処理に移行する。なお、以下のステップSP52~ステップSP54の各処理と、ステップSP56~ステップSP58の各処理とは、並行して実行されるが、どちらか一方の各処理を実行した後、他方の各処理が実行されてもよい。(Step SP50)
Acquisition means 72 drives and controls the
(ステップSP52)
検出手段74は、記憶手段70から第一学習済みモデル14Cを読み込み、当該第一学習済みモデル14Cで学習器を構築する。なお、ステップSP50の処理の前に、第一学習済みモデル14Cで学習器を構築していてもよい。この場合、ステップSP52は省略される。そして、処理は、ステップSP54の処理に移行する。(Step SP52)
The detection means 74 reads the first trained
(ステップSP54)
検出手段74は、乳房医療画像から腫瘍の候補となる第一領域を検出する。具体的には、検出手段74は、第一学習済みモデル14Cで構築された学習器に乳房医療画像を入力することで、検出手段74は、第一領域として、良性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、悪性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、を検出する。そして、処理は、ステップSP60の処理に移行する。(Step SP54)
The detection means 74 detects a first tumor candidate region from the breast medical image. Specifically, the detection means 74 inputs the breast medical image to the learner constructed by the first trained
(ステップSP56)
ステップSP50から移行された後、検出手段74は、記憶手段70から第二学習済みモデル14Dを読み込み、当該第二学習済みモデル14Dで学習器を構築する。なお、ステップSP50の処理の前に、第二学習済みモデル14Dで学習器を構築していてもよい。この場合、本ステップSP56は省略される。そして、処理は、ステップSP58の処理に移行する。(Step SP56)
After moving from step SP50, the detection means 74 reads the second trained
(ステップSP58)
検出手段74は、乳房医療画像から他の組織の候補となる第二領域を検出する。具体的には、検出手段74は、第二学習済みモデル14Dで構築された学習器に乳房医療画像を入力することで、検出手段74は、第二領域として、骨である確率が第二閾値以上の確率が対応付けられた領域と、筋肉である確率が第二閾値以上の確率が対応付けられた領域と、を検出する。そして、処理は、ステップSP60の処理に移行する。(Step SP58)
The detection means 74 detects a second region that is a candidate for another tissue from the breast medical image. Specifically, the detection means 74 inputs the breast medical image to the learning device constructed by the second trained
(ステップSP60)
判定手段76は、ステップSP58で検出された第二領域の領域数cを取得する。なお、この領域数cは、ゼロ又は自然数である。そして、処理は、ステップSP62の処理に移行する。(Step SP60)
The determination means 76 acquires the number c of the second areas detected in step SP58. Note that the number of regions c is zero or a natural number. Then, the process shifts to the process of step SP62.
(ステップSP62)
判定手段76は、取得した領域数cだけ、ステップSP64~ステップSP66の処理を繰り返す(ループ処理)。すなわち、判定手段76は、変数kが領域数cとなるまで、変数kを1からインクリメントしながら、ステップSP64~ステップSP66の処理を繰り返す。(Step SP62)
The determining means 76 repeats the processing of steps SP64 to SP66 by the acquired number of regions c (loop processing). That is, the determination means 76 repeats the processing of steps SP64 to SP66 while incrementing the variable k from 1 until the variable k reaches the number of areas c.
(ステップSP64)
判定手段76は、検出手段74が検出した第二領域のうち一つの第二領域を取得し、当該一つの第二領域が他の組織であると判定する。なお、判定手段76は、当該一つの領域に対応付けられている他の組織(骨又は筋肉)であると判定してもよい。この場合、第二領域同士が重なったときには、領域それぞれに対応付けられている確率の高い方の他の組織であると判定してもよい。例えば、骨である確率(30%)が対応付けられた第二領域と、筋肉である確率(40%)が対応付けられた第二領域とが重なった場合には、判定手段76は、筋肉である確率の方が高いため、当該第二領域が筋肉であると判定してもよい。そして、処理は、ステップSP66の処理に移行する。(Step SP64)
The determining means 76 acquires one second area out of the second areas detected by the detecting
(ステップSP66)
判定手段76は、変数kが領域数c未満である場合には、処理はステップSP62の処理に戻り、変数iが領域数cである場合にはループ処理を抜け、処理はステップSP68の処理に移行する。(Step SP66)
If the variable k is less than the number of regions c, the determination means 76 returns to the processing of step SP62, and if the variable i is the number of regions c, exits the loop processing and proceeds to the processing of step SP68. Transition.
(ステップSP68)
判定手段76は、ステップSP54で検出された領域数dを取得する。なお、この領域数dは、ゼロ又は自然数である。そして、処理は、ステップSP70の処理に移行する。(Step SP68)
The determination means 76 acquires the number of regions d detected in step SP54. Note that the number of regions d is zero or a natural number. Then, the process shifts to the process of step SP70.
(ステップSP70)
判定手段76は、取得した領域数dだけ、ステップSP72~ステップSP88の処理を繰り返す(ループ処理)。すなわち、判定手段76は、変数lが領域数dとなるまで、変数lを1からインクリメントしながら、ステップSP72~ステップSP88の処理を繰り返す。(Step SP70)
The determining means 76 repeats the processing from step SP72 to step SP88 by the acquired area number d (loop processing). That is, the determination means 76 repeats the processing of steps SP72 to SP88 while incrementing the variable l from 1 until the variable l reaches the number of regions d.
(ステップSP72)
判定手段76は、検出手段74が検出した第一領域のうち一つの第一領域を取得し、当該一つの第一領域が、他の組織と判定された第二領域より下に位置するか否かを判定する。そして、当該判定が肯定判定された場合には処理はステップSP74の処理に移行し、当該判定が否定判定された場合には処理はステップSP78の処理に移行する。(Step SP72)
The determination means 76 obtains one first region from among the first regions detected by the detection means 74, and determines whether or not the one first region is positioned below the second region determined to be another tissue. determine whether Then, when the determination is affirmative, the process proceeds to step SP74, and when the determination is negative, the process proceeds to step SP78.
(ステップSP74)
判定手段76は、取得した一つの第一領域が腫瘍でないと判定する。そして、処理は、ステップSP76の処理に移行する。(Step SP74)
The determining means 76 determines that the acquired one first region is not a tumor. Then, the process shifts to the process of step SP76.
(ステップSP76)
出力手段78は、判定結果を出力する。例えば、出力手段78は、リアルタイムに表示装置36に表示される乳房医療画像に反映する。なお、本ステップSP76は、例えば、ステップSP88の処理の後に実行されてもよい。(Step SP76)
The output means 78 outputs the determination result. For example, the output means 78 reflects breast medical images displayed on the
図8は、判定結果を反映した乳房医療画像100の一例を示す図である。なお、図8に示す乳房医療画像100は、本実施形態の説明用に本発明者らが新たに創作したものであり、実際の乳房医療画像とは異なる場合がある。
FIG. 8 is a diagram showing an example of a breast
図8に示すように、出力手段78は、乳房医療画像100において、判定手段76が腫瘍であると判定した領域を囲うように矩形マーク102を表示出力するとともに、その領域が悪性腫瘍である旨を表示出力する。また、出力手段78は、乳房医療画像100において、判定手段76が筋肉であると判定した領域を囲うように矩形マーク104を表示出力するとともに、その領域が筋肉である旨を表示出力する。また、出力手段78は、乳房医療画像100において、判定手段76が骨であると判定した領域を囲うように矩形マーク106を表示出力するとともに、その領域が骨である旨を表示出力する。なお、この表示出力は省略することができる。
As shown in FIG. 8, the output means 78 displays and outputs a
図7に戻って、処理は、ステップSP88の処理に移行する。 Returning to FIG. 7, the process shifts to the process of step SP88.
(ステップSP78)
ステップSP72にて否定判定された場合、判定手段76は、取得した一つの第一領域が他の第一領域と重なるか否かを判定する。そして、当該判定が肯定判定された場合には処理はステップSP82の処理に移行し、当該判定が否定判定された場合には処理はステップSP80の処理に移行する。(Step SP78)
When a negative determination is made in step SP72, the determining
(ステップSP80)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている腫瘍(良性腫瘍又は悪性腫瘍)と判定する。そして、処理は、ステップSP76の処理に移行する。(Step SP80)
The determining means 76 determines that one obtained first region is a tumor (benign tumor or malignant tumor) associated with the first region. Then, the process shifts to the process of step SP76.
(ステップSP82)
ステップSP78にて肯定判定された場合、判定手段76は、重なった第一領域それぞれに対応付けられている確率のうち、悪性腫瘍の方が、確率が高いか否かを判定する。例えば、重なった第一領域のうち、一つの第一領域に悪性腫瘍である確率(50%)が対応づけられており、他の第一領域に良性腫瘍である確率(30%)が対応付けられている場合、判定手段76は、悪性腫瘍である確率の方が高いと肯定判定する。そして、当該判定が肯定判定された場合には処理は、ステップSP84の処理に移行し、当該判定が否定判定された場合には処理は、ステップSP86の処理に移行する。(Step SP82)
If the determination in step SP78 is affirmative, the determining
(ステップSP84)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている悪性腫瘍であると判定する。そして、処理は、ステップSP76の処理に移行する。(Step SP84)
The determining means 76 determines that one obtained first region is a malignant tumor associated with the first region. Then, the process shifts to the process of step SP76.
(ステップSP86)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている良性腫瘍であると判定する。そして、処理は、ステップSP76の処理に移行する。(Step SP86)
The determining means 76 determines that one obtained first region is a benign tumor associated with the first region. Then, the process shifts to the process of step SP76.
(ステップSP88)
判定手段76は、変数lが領域数d未満である場合には、処理はステップSP70の処理に戻り、変数lが領域数dである場合にはループ処理を抜け、図7に示す一連の処理が終了する。(Step SP88)
If the variable l is less than the number of regions d, the judging means 76 returns to the processing of step SP70. ends.
<効果>
以上、本実施形態では、腫瘍判定プログラム34Aが画像診断補助装置30を、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段74、当該検出手段74にて検出された複数の領域の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段76、当該判定手段76の判定結果を出力する出力手段78として機能させる。<effect>
As described above, in the present embodiment, the
この構成によれば、検出手段74にて検出された複数の領域の位置関係に基づいて、腫瘍の候補となる第一領域が腫瘍であるか否かを判定するので、位置関係に基づいて判定しない場合に比べて、腫瘍の判定精度を向上することができる。 According to this configuration, it is determined whether or not the first region, which is a candidate for a tumor, is a tumor based on the positional relationship of the plurality of regions detected by the detection means 74. Therefore, determination is made based on the positional relationship. Tumor determination accuracy can be improved as compared to the case where the measurement is not performed.
また、本実施形態では、検出手段74は、第二領域として、骨の候補となる領域と、筋肉の候補となる領域と、を検出する。
Further, in this embodiment, the detecting
この構成によれば、腫瘍の候補となる第一領域と、骨の候補となる第二領域と、筋肉の候補となる第二領域との位置関係に基づいて、第一領域が腫瘍であるか否かを判定するので、腫瘍の判定精度を一層向上することができる。 According to this configuration, it is possible to determine whether the first region is a tumor based on the positional relationship among the first region that is a candidate for tumor, the second region that is a candidate for bone, and the second region that is a candidate for muscle. Since it is determined whether or not there is a tumor, it is possible to further improve the determination accuracy of the tumor.
また、本実施形態では、検出手段74は、第一領域として、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域と、を検出し、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。
Further, in this embodiment, the detecting
この構成によれば、腫瘍を悪性腫瘍と良性腫瘍に区別して判定することができるので、悪性腫瘍の判定精度を一層向上することができる。 According to this configuration, a tumor can be determined by distinguishing between malignant tumor and benign tumor, so that the determination accuracy of malignant tumor can be further improved.
また、本実施形態では、学習済みモデルは、腫瘍が写った複数の乳房医療画像から機械学習が行われた第一学習済みモデル14Cと、他の組織が写った複数の乳房医療画像から機械学習が行われた第二学習済みモデル14Dとを含み、検出手段74は、乳房医療画像を第一学習済みモデル14Cで構築された学習器に入力することで第一領域を検出し、且つ、乳房医療画像を第二学習済みモデル14Dで構築された学習器に入力することで第二領域を検出する。
Further, in the present embodiment, the trained models are the first trained
この構成によれば、腫瘍が写った複数の乳房医療画像及び他の組織が写った複数の乳房医療画像から機械学習を行って一つの学習済みモデルを生成する場合に比べて、学習装置10のメモリの使用量を低減することができるとともに、学習済みモデルの生成処理の処理速度を向上することができる。また、第一領域と第二領域を、それぞれ専用の学習済みモデルで構築された学習器で検出するので、領域の検出精度を向上することができ、もって、腫瘍の判定精度を一層向上することができる。
According to this configuration, compared to the case where one trained model is generated by performing machine learning from a plurality of breast medical images showing tumors and a plurality of breast medical images showing other tissues, the
また、本実施形態では、第一領域は、腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。 Further, in the present embodiment, the first region is a region associated with a probability that the probability of being a tumor is equal to or higher than the first threshold, and the second region is a region that is associated with a probability of being a tissue other than the tumor, and the probability of being a tissue other than the tumor is the second threshold. This is an area associated with the above probabilities.
この構成によれば、検出手段74は、確率が第一閾値や第二閾値未満の領域を検出しないので、腫瘍の候補となる第一領域の誤検出を抑制することができ、もって、腫瘍の判定精度を一層向上することができる。
According to this configuration, the detecting
また、本実施形態では、第二閾値は第一閾値よりも低い。 Moreover, in this embodiment, the second threshold is lower than the first threshold.
この構成によれば、他の組織の候補となる領域は腫瘍の候補となる領域に比べて領域を多く検出することで、領域の位置関係の比較を数多くすることができ、結果的に、腫瘍の判定精度を一層向上することができる。 According to this configuration, by detecting more candidate regions for other tissues than regions for tumor candidates, it is possible to compare the positional relationships of the regions more frequently. can be further improved.
また、本実施形態では、学習装置10が、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する画像取得手段62と、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得する教師データ取得手段66と、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデル14Cを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデル14Dを生成する学習処理手段68と、備える。
Further, in the present embodiment, the
この構成によれば、腫瘍が写った複数の乳房医療画像及び他の組織が写った複数の乳房医療画像から機械学習を行って一つの学習済みモデルを生成する場合に比べて、例えば2クラス分類のよりシンプルな学習済みモデルのみで構成でき、学習済みモデルを組み合わせることで、乳房医療画像においては、判定精度の向上が期待できる。また、学習装置10のメモリの使用量を低減することができるとともに、学習済みモデルの生成処理の処理速度を向上することができる可能性がある。
According to this configuration, compared to the case where machine learning is performed from a plurality of breast medical images showing tumors and a plurality of breast medical images showing other tissues to generate one trained model, for example, two-class classification It can be configured with only a simpler trained model, and by combining trained models, it is expected to improve the judgment accuracy in breast medical images. In addition, it is possible to reduce the amount of memory used in the
<実施例1>
次に、上記実施形態を適用した実施例1について説明する。<Example 1>
Next, Example 1 to which the above embodiment is applied will be described.
実施例1では、正常な乳房医療画像141枚、良性腫瘍が写った乳房医療画像77枚、悪性腫瘍が写った113枚の合計331枚の乳房医療画像を学習データ14Bとした。そして、学習装置10は、ユーザの操作に基づき、これらの学習データ14Bを「YOLOv2」と呼ばれる学習器にそれぞれ入力して機械学習を実行し、第一学習済みモデル14Cと、第二学習済みモデル14Dとを生成した。ここで、学習回数は6万回とし、第一領域を検出するための第一閾値は20%とし、第二領域を検出するための第二閾値は10%とした。続いて、正常な乳房医療画像62枚、良性腫瘍が写った乳房医療画像30枚、悪性腫瘍が写った50枚の合計142枚の乳房医療画像を腫瘍判定のためのテストデータとし、これらのテストデータと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを用いて腫瘍判定プログラム34Aを実行し、腫瘍に関する判定結果を得た。
In Example 1, a total of 331 breast medical images including 141 normal breast medical images, 77 breast medical images showing benign tumors, and 113 breast medical images showing malignant tumors were used as learning
図9は、良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、実際の疾患と、腫瘍判定プログラム34Aの判定結果とを比較した結果を示す表である。
FIG. 9 is a table showing results of comparison between actual diseases and determination results of the
図9に示す表から、腫瘍判定プログラム34Aの判定処理による感度は93.8%であり、特異度は95.2%であることが分かった。この結果より、腫瘍判定プログラム34Aによる腫瘍の判定精度は非常に高く、従来に比べて判定精度が向上したことを確認できた。
From the table shown in FIG. 9, it was found that the sensitivity of the judgment processing of the
図10は、良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、実際の疾患と、腫瘍判定プログラム34Aの判定結果とを比較した結果を示す表である。
FIG. 10 is a table showing the results of comparison between the actual disease and the determination result of the
図10に示す表から、腫瘍判定プログラム34Aの判定処理による感度は88.9%であり、特異度は86.9%であることが分かった。この結果より、腫瘍判定プログラム34Aによる腫瘍の判定精度は非常に高く、従来に比べて判定精度が向上したことを確認できた。
From the table shown in FIG. 10, it was found that the sensitivity of the judgment processing of the
<実施例2>
次に、上記実施形態を適用した実施例2について説明する。<Example 2>
Next, Example 2 to which the above embodiment is applied will be described.
実施例2では、実施例1と同様の方法を実施するとともに、学習回数を1万回から8万回の間で変化させた。 In Example 2, the same method as in Example 1 was performed, and the number of times of learning was varied between 10,000 and 80,000.
図11は、良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。 FIG. 11 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when benign tumors and malignant tumors are regarded as “tumors”.
図11に示すように、感度及び特異度が高いという観点から、2万回以上6万回以下であることが好ましく、3万回以上6万回以下であることがより好ましく、感度及び特異度が高く且つバランスが良いという観点から、4万回以上6万回以下であることが更に好ましいことが確認できた。 As shown in FIG. 11, from the viewpoint of high sensitivity and specificity, it is preferably 20,000 times or more and 60,000 times or less, more preferably 30,000 times or more and 60,000 times or less. 40,000 times or more and 60,000 times or less is more preferable from the viewpoint of high resistance and good balance.
また、図12は、良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。 Also, FIG. 12 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when normal without benign tumors and when benign tumors are regarded as "normal".
図12に示すように、感度及び特異度が高いという観点から、2万回以上6万回以下であることが好ましく、3万回以上6万回以下であることがより好ましく、感度及び特異度が高く且つバランスが良いという観点から、4万回以上6万回以下であることが更に好ましいことが確認できた。 As shown in FIG. 12, from the viewpoint of high sensitivity and specificity, it is preferably 20,000 times or more and 60,000 times or less, more preferably 30,000 times or more and 60,000 times or less. 40,000 times or more and 60,000 times or less is more preferable from the viewpoint of high resistance and good balance.
<変形例>
なお、本発明は上記の具体例に限定されるものではない。すなわち、上記の具体例に、当業者が適宜設計変更を加えたものも、本発明の特徴を備えている限り、本発明の範囲に包含される。また、前述した実施形態及び後述する変形例が備える各要素は、技術的に可能な限りにおいて組み合わせることができ、これらを組み合わせたものも本発明の特徴を含む限り本発明の範囲に包含される。<Modification>
It should be noted that the present invention is not limited to the above specific examples. In other words, the above-described specific examples are also included in the scope of the present invention as long as they have the features of the present invention, as long as they are appropriately modified in design by those skilled in the art. In addition, each element provided in the embodiment described above and the modified example described later can be combined as long as it is technically possible, and the combination thereof is also included in the scope of the present invention as long as it includes the features of the present invention. .
例えば、上記実施形態では、画像診断補助装置30が超音波画像診断補助装置である場合を説明したが、超音波画像診断補助装置に通信ネットワークNT等を介して接続されるサーバ装置やパーソナルコンピュータ等の情報処理装置であってもよい。
For example, in the above-described embodiment, the case where the diagnostic
また、上記実施形態では、画像取得手段62や教師データ取得手段66が学習装置10に設けられる場合を説明したが、学習装置10とは異なる他の情報処理装置に設けられてもよい。
Further, in the above embodiment, the case where the
また、上記実施形態では、腫瘍の属性区分が良性又は悪性のうちのいずれかの場合を説明したが、他の分類基準、例えば、BI-RADS(Breast Imaging Reporting And Data System)のガイドラインに基づく区分が用いられてもよい。この場合、検出手段74は、第一領域として、BI-RADSカテゴリーに従って定義される各区分に属する腫瘍である確率が対応付けられた領域を検出し、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域がどの区分に属する腫瘍であるかを判定する。この構成によれば、BI-RADSカテゴリーに従った属性判定ができるので、腫瘍の判定精度を一層向上することができる。 In addition, in the above embodiment, the case where the attribute classification of the tumor is either benign or malignant has been described, but other classification criteria, for example, classification based on BI-RADS (Breast Imaging Reporting And Data System) guidelines may be used. In this case, the detection means 74 detects, as the first region, a region associated with the probability of being a tumor belonging to each category defined according to the BI-RADS category, and the determination means 76 detects that the first region is a tumor. If it is detected, it is determined which category the first region belongs to, based on the probability associated with the region detected by the detection means 74 . According to this configuration, attribute determination can be performed according to the BI-RADS category, so the accuracy of tumor determination can be further improved.
なお、上記した区分は、例えば、BI-RADS分類のカテゴリー1~5、サブカテゴリー4A/4B/4C、又は、両者を組み合わせたカテゴリーであってもよい。また、カテゴリーが3以下の場合に「0」を、カテゴリーが4以上の場合に「1」をそれぞれ割り当てるなど、学習器の出力ラベルを2値化してもよい。
The above-described classification may be, for example,
また、上記実施形態では、検出手段74は、乳房医療画像から悪性腫瘍の候補となる領域を検出する場合を説明したが、悪性腫瘍の種類毎に、悪性腫瘍の候補となる領域を検出したり、悪性腫瘍の進行度毎に、悪性腫瘍の候補となる領域を検出したりしてもよい。例えば、検出手段74は、乳房医療画像から、非浸潤がんの候補となる領域や、浸潤がんの候補となる領域、パジェット病の候補となる領域を検出してもよい。また、検出手段74は、ステージ1の悪性腫瘍の候補となる領域や、ステージ2の悪性腫瘍の候補となる領域、ステージ3の悪性腫瘍の候補となる領域、ステージ4の悪性腫瘍の候補となる領域を検出してもよい。これにより、判定手段76は、各領域に対応付けられた確率に基づき、悪性腫瘍の種類や進行度を判定することができる。ここで、判定手段76は、各領域に対応付けられた確率だけでなく、悪性腫瘍の候補となる第一領域と他の組織である第二領域との位置関係に基づいて、第一領域がステージ1の悪性腫瘍であるか否か等を判定すると、腫瘍のステージの判定精度を向上することができる。
In the above embodiment, the detecting
また、上記実施形態では、出力手段78は、判定手段76の判定結果を出力する場合を説明したが、検出手段74が検出した領域の位置情報や、当該領域に対応付けられている確率や、その確率の種類(悪性腫瘍の確率や良性腫瘍の確率等)を、例えば医師等が判断するためのレポート情報としてレポート画面等に出力してもよい。また、出力手段78は、検出手段74が検出した領域、及び/又は、判定手段76の判定結果に基づき、医師をサポートするためのサポート情報を生成し、ユーザに提案(出力)してもよい。これにより、医師は、診断結果や治療方法を効率的に決定することができる。なお、サポート情報としては、検出手段74が検出した領域、及び/又は、判定手段76の判定結果に応じた、治療内容や方法、治療に適した病院の場所、医師の氏名等が挙げられる。また、出力手段78は、判定手段76の判定結果と合わせて、リアルタイムに、レポート情報やサポート情報を出力してもよい。 In the above embodiment, the output means 78 outputs the judgment result of the judgment means 76, but the position information of the area detected by the detection means 74, the probability associated with the area, The type of the probability (probability of malignant tumor, probability of benign tumor, etc.) may be output to a report screen or the like as report information for a doctor or the like to make a judgment, for example. Further, the output means 78 may generate support information for supporting the doctor based on the region detected by the detection means 74 and/or the determination result of the determination means 76, and may propose (output) it to the user. . This allows doctors to efficiently determine diagnostic results and treatment methods. The support information may include treatment content and methods, locations of hospitals suitable for treatment, names of doctors, etc., according to the area detected by the detection means 74 and/or the determination result of the determination means 76 . In addition, the output means 78 may output report information and support information in real time together with the determination result of the determination means 76 .
図13は、レポート画面110の一例を示す概略図である。
FIG. 13 is a schematic diagram showing an example of the
図13に示すように、レポート画面110には、例えば、乳房医療画像100と、検出手段74が検出した第一領域の場所や第一領域に対応付けられた確率、第一領域のサイズ、判定手段76が判定した判定結果等を含むレポート情報114が記述されている。また、レポート画面110には、判定結果や検出手段74が検出した領域の位置情報、当該領域に対応付けられている確率等に基づき生成されたサポート情報116が記述されている。
As shown in FIG. 13, the
また、本実施形態では、判定手段76が、1枚の乳房医療画像100から第一領域が腫瘍であるか否かを判定する場合を説明したが、複数枚の乳房医療画像100から第一領域が腫瘍であるか否かを最終的に判定してもよい。例えば、5枚の乳房医療画像100のうち、1枚の乳房医療画像100において第一領域が腫瘍であると判定し、残り全ての乳房医療画像100において第一領域が腫瘍でないと判定した場合は、判定手段76は、最終的に第一領域が腫瘍であると判定(確定)してもよい。この場合、出力手段78は、最終的に判定した判定結果のみを出力することが好ましい。
Further, in the present embodiment, the case where the determining
また、上記実施形態では、検出手段74が、複数の学習済みモデルを利用して第一領域及び第二領域を検出する場合を説明したが、一つの学習済みモデルを利用して第一領域及び第二領域を検出してもよい。 Further, in the above embodiment, the case where the detection means 74 detects the first region and the second region using a plurality of trained models has been described. A second region may be detected.
<符号の説明>
10…学習装置、24…記憶媒体、30…画像診断補助装置(コンピュータ)、62…画像取得手段、66…教師データ取得手段、68…学習処理手段、72…取得手段、74…検出手段、76…判定手段、78…出力手段<Description of symbols>
DESCRIPTION OF
Claims (9)
機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段、
前記検出手段にて検出された前記第一領域と前記第二領域の位置関係又は前記第一領域同士の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段、
前記判定手段の判定結果を出力する出力手段、
として機能させ、
前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域であり、
前記第二閾値は前記第一閾値よりも低い、プログラム。 the computer,
By inputting a breast medical image showing a human breast to a learner built with a trained model that has undergone machine learning, a first region that is a candidate for a tumor in the breast medical image and the breast medical image a detection means for detecting a second region that is a candidate for tissue other than a tumor in
determination means for determining whether the first region is a tumor based on the positional relationship between the first region and the second region or the positional relationship between the first regions detected by the detection means;
output means for outputting the determination result of the determination means;
function as
The first region is associated with a probability that the probability of being the tumor is a first threshold or more, and the second region is associated with a probability that the probability of being a tissue other than the tumor is a second threshold or more. is the associated region, and
The program, wherein the second threshold is lower than the first threshold.
前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する、
請求項1に記載のプログラム。 The detection means detects, as the first region, a region associated with a probability of being a malignant tumor and a region associated with a probability of being a benign tumor,
When the first region is detected as a tumor, the determining means determines whether the first region is a benign tumor based on the probability associated with the region detected by the detecting means, or determine whether it is a malignant tumor,
A program according to claim 1.
請求項2に記載のプログラム。 When the region associated with the probability of being a malignant tumor and the region associated with the probability of being a benign tumor overlap, the determining means determines that the tumor is the tumor with the higher probability.
3. A program according to claim 2.
前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域がどの区分に属する腫瘍であるかを判定する、
請求項1乃至3の何れか1項に記載のプログラム。 The detection means detects, as the first region, a region associated with a probability of being a tumor belonging to each category defined according to the BI-RADS (Breast Imaging Reporting And Data System) category,
When the first region is detected as a tumor, the determination means determines which category the first region belongs to, based on the probability associated with the region detected by the detection means. determine whether there is
A program according to any one of claims 1 to 3.
前記検出手段は、前記乳房医療画像を前記第一学習済みモデルで構築された学習器に入力することで前記第一領域を検出し、且つ、前記乳房医療画像を前記第二学習済みモデルで構築された学習器に入力することで前記第二領域を検出する、
請求項1乃至4の何れか1項に記載のプログラム。 The trained model is a first trained model machine-learned from a plurality of breast medical images showing tumors, and a second trained model machine-learned from a plurality of breast medical images showing other tissues including a trained model and
The detection means detects the first region by inputting the breast medical image to a learner constructed by the first trained model, and constructs the breast medical image by the second trained model. Detecting the second region by inputting to the learned learner,
A program according to any one of claims 1 to 4.
請求項1乃至5の何れか1項に記載のプログラム。 The detection means detects, as the second regions, a bone candidate region and a muscle candidate region.
A program according to any one of claims 1 to 5.
請求項1乃至6の何れか1項に記載のプログラム。 The number of learning times of the trained model is 20,000 or more and 60,000 or less,
A program according to any one of claims 1 to 6.
請求項1乃至7の何れか1項に記載のプログラム。 The output means outputs support information for supporting a doctor based on the determination result of the determination means.
A program according to any one of claims 1 to 7.
前記検出手段にて検出された複数の領域に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段と、
前記判定手段の判定結果を出力する出力手段と、
を備え、
前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域であり、
前記第二閾値は前記第一閾値よりも低い、画像診断補助装置。
By inputting a breast medical image showing a human breast to a learner built with a trained model that has undergone machine learning, a first region that is a candidate for a tumor in the breast medical image and the breast medical image a detection means for detecting a second region that is a candidate for tissue other than a tumor in
determination means for determining whether the first region is a tumor based on the plurality of regions detected by the detection means;
an output means for outputting the determination result of the determination means;
with
The first region is associated with a probability that the probability of being the tumor is a first threshold or more, and the second region is associated with a probability that the probability of being a tissue other than the tumor is a second threshold or more. is the associated region, and
The diagnostic imaging assisting apparatus, wherein the second threshold is lower than the first threshold.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019034978 | 2019-02-27 | ||
| JP2019034978 | 2019-02-27 | ||
| PCT/JP2020/007011 WO2020175356A1 (en) | 2019-02-27 | 2020-02-21 | Storage medium, image diagnosis assistance device, learning device, and learned model generation method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2020175356A1 JPWO2020175356A1 (en) | 2020-09-03 |
| JP7185242B2 true JP7185242B2 (en) | 2022-12-07 |
Family
ID=72238480
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021502177A Active JP7185242B2 (en) | 2019-02-27 | 2020-02-21 | Program and diagnostic imaging aid |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7185242B2 (en) |
| WO (1) | WO2020175356A1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20230088538A (en) * | 2021-12-10 | 2023-06-20 | 동국대학교 산학협력단 | Apparatus and method for breast cancer detection based on deep learning |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112634246B (en) * | 2020-12-28 | 2023-09-12 | 深圳市人工智能与机器人研究院 | Oral image recognition method and related equipment |
| KR102559616B1 (en) * | 2021-02-10 | 2023-07-27 | 주식회사 빔웍스 | Method and system for breast ultrasonic image diagnosis using weakly-supervised deep learning artificial intelligence |
| JP7703888B2 (en) * | 2021-04-26 | 2025-07-08 | オムロン株式会社 | DETECTION DEVICE, CONTROL METHOD FOR DETECTION DEVICE, MODEL GENERATION METHOD BY MODEL GENERATION DEVICE THAT GENERATES TRAINED MODEL, INFORMATION PROCESSING PROGRAM, AND RECORDING MEDIUM |
| JP7701184B2 (en) * | 2021-04-27 | 2025-07-01 | 株式会社日立製作所 | Medical image processing apparatus and medical image processing method |
| JP7806396B2 (en) * | 2021-05-06 | 2026-01-27 | コニカミノルタ株式会社 | Ultrasound imaging diagnostic device, classifier change method, and classifier change program |
| JP7707652B2 (en) * | 2021-05-24 | 2025-07-15 | コニカミノルタ株式会社 | IMAGE GENERATION DEVICE, IMAGE GENERATION METHOD, AND PROGRAM |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150230773A1 (en) | 2014-02-19 | 2015-08-20 | Samsung Electronics Co., Ltd. | Apparatus and method for lesion detection |
| WO2018180386A1 (en) | 2017-03-30 | 2018-10-04 | 国立研究開発法人産業技術総合研究所 | Ultrasound imaging diagnosis assistance method and system |
-
2020
- 2020-02-21 JP JP2021502177A patent/JP7185242B2/en active Active
- 2020-02-21 WO PCT/JP2020/007011 patent/WO2020175356A1/en not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150230773A1 (en) | 2014-02-19 | 2015-08-20 | Samsung Electronics Co., Ltd. | Apparatus and method for lesion detection |
| JP2015154918A (en) | 2014-02-19 | 2015-08-27 | 三星電子株式会社Samsung Electronics Co.,Ltd. | Lesion detection apparatus and method |
| WO2018180386A1 (en) | 2017-03-30 | 2018-10-04 | 国立研究開発法人産業技術総合研究所 | Ultrasound imaging diagnosis assistance method and system |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20230088538A (en) * | 2021-12-10 | 2023-06-20 | 동국대학교 산학협력단 | Apparatus and method for breast cancer detection based on deep learning |
| KR102711951B1 (en) | 2021-12-10 | 2024-10-02 | 동국대학교 산학협력단 | Apparatus and method for breast cancer detection based on deep learning |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2020175356A1 (en) | 2020-09-03 |
| WO2020175356A1 (en) | 2020-09-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7185242B2 (en) | Program and diagnostic imaging aid | |
| Baloescu et al. | Automated lung ultrasound B-line assessment using a deep learning algorithm | |
| CN104706384B (en) | Method and apparatus for obtaining elasticity information about a region of interest using shear waves | |
| US9144407B2 (en) | Image processing device and method, and program | |
| US10499881B2 (en) | Ultrasound diagnosis apparatus and method of displaying ultrasound image | |
| US11532084B2 (en) | Gating machine learning predictions on medical ultrasound images via risk and uncertainty quantification | |
| CN106333700B (en) | Medical imaging device and method of operation | |
| US20250022135A1 (en) | Method and system for predicting expression of biomarker from medical image | |
| US11564663B2 (en) | Ultrasound imaging apparatus and control method thereof | |
| US10290097B2 (en) | Medical imaging device and method of operating the same | |
| US12329577B2 (en) | Ultrasound imaging | |
| CN111369675B (en) | Method and device for three-dimensional visual model reconstruction based on visceral pleura projection of pulmonary nodules | |
| CN112998748B (en) | Method and system for automatic strain measurement and strain ratio calculation for ultrasonic elastography | |
| Töger et al. | Test–retest repeatability of human speech biomarkers from static and real-time dynamic magnetic resonance imaging | |
| WO2021087687A1 (en) | Ultrasonic image analyzing method, ultrasonic imaging system and computer storage medium | |
| Summers et al. | Computerized diagnostic assistant for the automatic detection of pneumothorax on ultrasound: a pilot study | |
| US20240320598A1 (en) | User performance evaluation and training | |
| Yongping et al. | Performance of computer-aided diagnosis in ultrasonography for detection of breast lesions less and more than 2 cm: prospective comparative study | |
| EP4343695A1 (en) | Information processing apparatus, information processing method, and information processing program | |
| CN116569278A (en) | Disease diagnosis and prognosis | |
| Mora | Deep Generative Machine Learning to Create Synthetic 2D Ultrasound Images for Rare Disease Research | |
| US10627803B2 (en) | Method and apparatus for producing a model findings object | |
| EP2807977B1 (en) | Ultrasound diagnosis method and aparatus using three-dimensional volume data | |
| Mendez Mora | Deep Generative Machine Learning to Create Synthetic 2D Ultrasound Images for Rare Disease Research | |
| US20160066891A1 (en) | Image representation set |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210824 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210824 |
|
| A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210824 |
|
| AA64 | Notification of invalidation of claim of internal priority (with term) |
Free format text: JAPANESE INTERMEDIATE CODE: A241764 Effective date: 20210907 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210914 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220215 |
|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20220218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220324 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220617 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220901 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221115 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221116 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7185242 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |