Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7185242B2 - Program and diagnostic imaging aid - Google Patents
[go: Go Back, main page]

JP7185242B2 - Program and diagnostic imaging aid - Google Patents

Program and diagnostic imaging aid Download PDF

Info

Publication number
JP7185242B2
JP7185242B2 JP2021502177A JP2021502177A JP7185242B2 JP 7185242 B2 JP7185242 B2 JP 7185242B2 JP 2021502177 A JP2021502177 A JP 2021502177A JP 2021502177 A JP2021502177 A JP 2021502177A JP 7185242 B2 JP7185242 B2 JP 7185242B2
Authority
JP
Japan
Prior art keywords
region
tumor
probability
breast
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021502177A
Other languages
Japanese (ja)
Other versions
JPWO2020175356A1 (en
Inventor
哲 林田
紀行 二木
靖彦 塩田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fixstars Corp
Original Assignee
Fixstars Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fixstars Corp filed Critical Fixstars Corp
Publication of JPWO2020175356A1 publication Critical patent/JPWO2020175356A1/ja
Application granted granted Critical
Publication of JP7185242B2 publication Critical patent/JP7185242B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Clinical applications
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Optics & Photonics (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、記憶媒体、画像診断補助装置、学習装置、及び、学習済みモデルの生成方法に関する。 The present invention relates to a storage medium, an image diagnosis assisting device, a learning device, and a method of generating a trained model.

従来から、人体の乳房に腫瘍があるか否かを医師が診断するための画像診断補助装置が知られている。 2. Description of the Related Art Conventionally, there has been known an image diagnosis assisting device for a doctor to diagnose whether or not there is a tumor in the breast of a human body.

これに関して、例えば特許文献1には、乳房が写った乳房医療画像を学習済みの学習器に入力して、腫瘍の候補となる領域(腫瘍候補領域)と、乳腺の領域とを検出し、腫瘍候補領域の中から、乳腺の領域以外の領域における腫瘍候補領域を除去して、残った腫瘍候補領域が腫瘍であると判定する技術が開示されている。 In this regard, for example, in Patent Document 1, a breast medical image showing a breast is input to a learned learning device, a tumor candidate region (tumor candidate region) and a mammary gland region are detected, and a tumor is detected. A technique has been disclosed in which tumor candidate regions in regions other than mammary gland regions are removed from candidate regions and the remaining tumor candidate regions are determined to be tumors.

国際公開第2018/180386号WO2018/180386

しかしながら、特許文献1に記載の技術では、例えば乳腺の領域のサイズや位置が間違って検出された場合には、実際には腫瘍領域であるはずの腫瘍候補領域まで除去されてしまう可能性があり、腫瘍の判定精度が十分ではなかった。 However, with the technique described in Patent Document 1, for example, if the size or position of a mammary gland region is detected incorrectly, even a tumor candidate region that should actually be a tumor region may be removed. , the accuracy of tumor determination was not sufficient.

本発明はこのような課題に鑑みてなされたものであり、その目的は、乳房医療画像において腫瘍の判定精度を向上することができる記憶媒体、画像診断補助装置、学習装置、及び、学習済みモデルの生成方法を提供することにある。 The present invention has been made in view of such problems, and an object of the present invention is to provide a storage medium, an image diagnosis assisting device, a learning device, and a trained model that can improve the accuracy of tumor determination in breast medical images. To provide a method for generating

上記課題を解決するために、本発明の第一態様に係る記憶媒体は、コンピュータを、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段、前記検出手段にて検出された複数の領域の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段、前記判定手段の判定結果を出力する出力手段、として機能させるプログラムを記憶する。 In order to solve the above problems, a storage medium according to a first aspect of the present invention causes a computer to input a breast medical image of a human breast to a learner constructed of a learned model in which machine learning has been performed. By doing so, a detection means for detecting a first region that is a tumor candidate in the breast medical image and a second region that is a tissue candidate other than the tumor in the breast medical image, and the detection means A program is stored that functions as determination means for determining whether or not the first region is a tumor based on the positional relationship of the plurality of detected regions, and output means for outputting the determination result of the determination means.

また、本発明の第二態様に係る記憶媒体では、前記検出手段は、前記第二領域として、骨の候補となる領域と、筋肉の候補となる領域とを検出する。 Further, in the storage medium according to the second aspect of the present invention, the detection means detects, as the second regions, a bone candidate region and a muscle candidate region.

また、本発明の第三態様に係る記憶媒体では、前記検出手段は、前記第一領域として、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とを検出し、前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。 Further, in the storage medium according to the third aspect of the present invention, the detection means may include, as the first regions, a region associated with a probability of being a malignant tumor and a region associated with a probability of being a benign tumor. and the determination means determines that the first region is a benign tumor based on the probability associated with the region detected by the detection means when the first region is detected as a tumor or malignant tumor.

また、本発明の第四態様に係る記憶媒体では、前記検出手段は、前記第一領域として、BI-RADS(Breast Imaging Reporting And Data System)カテゴリーに従って定義される各区分に属する腫瘍である確率が対応付けられた領域を検出し、前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域がどの区分に属する腫瘍であるかを判定する。 Further, in the storage medium according to the fourth aspect of the present invention, the detection means has a probability that the first region is a tumor belonging to each category defined according to the BI-RADS (Breast Imaging Reporting And Data System) category. The associated region is detected, and the determining means, when the first region is detected as a tumor, based on the probability associated with the region detected by the detecting means, determines the first It is determined which category a region belongs to.

また、本発明の第五態様に係る記憶媒体では、前記学習済みモデルは、腫瘍が写った複数の乳房医療画像から機械学習が行われた第一学習済みモデルと、前記他の組織が写った複数の乳房医療画像から機械学習が行われた第二学習済みモデルとを含み、前記検出手段は、前記乳房医療画像を前記第一学習済みモデルで構築された学習器に入力することで前記第一領域を検出し、且つ、前記乳房医療画像を前記第二学習済みモデルで構築された学習器に入力することで前記第二領域を検出する。 Further, in the storage medium according to the fifth aspect of the present invention, the trained models include a first trained model in which machine learning is performed from a plurality of breast medical images showing tumors, and a first trained model in which the other tissues are shown. a second trained model machine-learned from a plurality of breast medical images; Detecting a region and detecting the second region by inputting the breast medical image into a learner constructed with the second trained model.

また、本発明の第六態様に係る記憶媒体では、前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。 Further, in the storage medium according to the sixth aspect of the present invention, the first region is a region associated with a probability that the probability of being a tumor is equal to or greater than a first threshold, and the second region is a region other than the tumor. This is an area associated with a probability that the probability of being other tissue is equal to or greater than the second threshold.

また、本発明の第七態様に係る記憶媒体では、前記第二閾値は前記第一閾値よりも低い。 Also, in the storage medium according to the seventh aspect of the present invention, the second threshold is lower than the first threshold.

また、本発明の第八態様に係る記憶媒体では、前記出力手段は、前記判定手段の判定結果に基づき、医師をサポートするためのサポート情報を出力する。 Also, in the storage medium according to the eighth aspect of the present invention, the output means outputs support information for supporting a doctor based on the determination result of the determination means.

また、本発明の第九態様に係る画像診断補助装置は、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段と、前記検出手段にて検出された複数の領域に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段と、前記判定手段の判定結果を出力する出力手段と、を備える。 Further, in the image diagnosis assisting device according to the ninth aspect of the present invention, by inputting a breast medical image showing a human breast to a learner constructed by a learned model on which machine learning has been performed, the breast medical image A detection means for detecting a first region that is a tumor candidate in an image and a second region that is a tissue candidate other than the tumor in the breast medical image; and a plurality of regions detected by the detection means. determining means for determining whether or not the first region is a tumor based on; and output means for outputting a determination result of the determining means.

また、本発明の第十態様に係る学習装置は、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する画像取得手段と、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得する教師データ取得手段と、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデルを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデルを生成する学習処理手段と、を備える。 Further, the learning device according to the tenth aspect of the present invention acquires a plurality of first breast medical images showing a tumor and a plurality of second breast medical images showing tissues other than the tumor. acquiring localization information of the tumor in the plurality of first breast medical images as first training data, and localizing the other tissue in the plurality of second breast medical images, based on a means and a user's operation; a teacher data acquisition means for acquiring information as teacher data; and machine learning by inputting a set of the plurality of first breast medical images and the first teacher data to obtain a first tumor candidate in a predetermined breast medical image. generating a first trained model for detecting a region, and machine learning by inputting the plurality of second breast medical images and the second teacher data set, and performing machine learning to detect a non-tumor in a predetermined breast medical image; learning processing means for generating a second trained model for detecting a second region that is a candidate for another tissue.

また、本発明の第十一態様に係る学習済みモデルの生成方法は、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得するステップと、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得するステップと、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデルを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデルを生成するステップと、をコンピュータが実行する。 Further, the method for generating a trained model according to the eleventh aspect of the present invention includes a plurality of first breast medical images showing a tumor, and a plurality of second breast medical images showing tissues other than the tumor. and obtaining localization information of the tumor in the plurality of first breast medical images as first training data based on a user's operation, and the other tissue in the plurality of second breast medical images a step of acquiring position specifying information of as training data; and performing machine learning by inputting a set of the plurality of first breast medical images and the first training data to obtain a first tumor candidate in a predetermined breast medical image generating a first trained model for detecting a region, and machine learning by inputting the plurality of second breast medical images and the second teacher data set, and performing machine learning to detect a non-tumor in a predetermined breast medical image; generating a second trained model for detecting a second region that is a candidate for other tissue.

本発明によれば、乳房医療画像において腫瘍の判定精度を向上することができる。 ADVANTAGE OF THE INVENTION According to this invention, the determination accuracy of the tumor can be improved in a breast medical image.

本発明の実施形態に係る画像診断システムの全体構成の一例を示す模式図である。1 is a schematic diagram showing an example of the overall configuration of a diagnostic imaging system according to an embodiment of the present invention; FIG. 図1に示す学習装置のハードウェア構成の一例を示すブロック図である。2 is a block diagram showing an example of the hardware configuration of the learning device shown in FIG. 1; FIG. 図1に示す画像診断補助装置のハードウェア構成の一例を示すブロック図である。2 is a block diagram showing an example of the hardware configuration of the image diagnosis assisting device shown in FIG. 1; FIG. 図2に示す学習装置の機能的構成(ソフトウェア構成)の一例を示すブロック図である。3 is a block diagram showing an example of a functional configuration (software configuration) of the learning device shown in FIG. 2; FIG. 図3に示す画像診断補助装置の機能的構成(ソフトウェア構成)の一例を示すブロック図である。FIG. 4 is a block diagram showing an example of a functional configuration (software configuration) of the image diagnosis assisting device shown in FIG. 3; 学習装置の各機能的構成の処理手順を示すフローチャートである。4 is a flow chart showing the processing procedure of each functional configuration of the learning device; 画像診断補助装置の各機能的構成の処理手順を示すフローチャートである。4 is a flow chart showing a processing procedure of each functional configuration of the image diagnosis assisting device; 判定結果を反映した乳房医療画像の一例を示す図である。It is a figure which shows an example of the breast medical image which reflected the determination result. 良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、実際の疾患と、腫瘍判定プログラムの判定結果とを比較した結果を示す表である。2 is a table showing results of comparison between actual diseases and determination results of a tumor determination program when benign tumors and malignant tumors are regarded as "tumors". 良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、実際の疾患と、腫瘍判定プログラムの判定結果とを比較した結果を示す表である。FIG. 10 is a table showing results of comparison between actual diseases and determination results of a tumor determination program when normal without benign tumors and when benign tumors are regarded as “normal”. FIG. 良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。2 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when benign tumors and malignant tumors are regarded as "tumors". 良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。FIG. 10 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when normal without benign tumors and when benign tumors are regarded as “normal”. レポート画面の一例を示す概略図である。It is a schematic diagram showing an example of a report screen.

以下、添付図面を参照しながら本発明の実施形態(以下、「本実施形態」とも表記する。)について説明する。説明の理解を容易にするため、各図面において同一の構成要素及びステップに対しては可能な限り同一の符号を付して、重複する説明は省略する。 EMBODIMENT OF THE INVENTION Hereinafter, embodiment (it is also described as "this embodiment" hereafter.) of this invention is described, referring an accompanying drawing. In order to facilitate understanding of the description, the same components and steps are denoted by the same reference numerals as much as possible in each drawing, and overlapping descriptions are omitted.

<全体構成>
図1は、本発明の実施形態に係る画像診断システム1の全体構成の一例を示す模式図である。
<Overall composition>
FIG. 1 is a schematic diagram showing an example of the overall configuration of a diagnostic imaging system 1 according to an embodiment of the present invention.

図1に示すように、画像診断システム1は、学習装置10と、画像診断補助装置30と、を備える。 As shown in FIG. 1 , the diagnostic imaging system 1 includes a learning device 10 and an auxiliary diagnostic imaging device 30 .

学習装置10は、画像診断補助装置30で利用される、例えばニューラルネットワーク等の学習器(プログラム)を構築する学習済みモデルを生成するように学習器の機械学習を行うコンピュータである。具体的には、学習装置10は、そして、乳房(の乳腺)及び腫瘍が写った複数の第一乳房医療画像及び複数の第一乳房医療画像における腫瘍の位置特定情報の組と、乳房及び腫瘍以外の他の組織が写った複数の第二乳房医療画像及び複数の第二乳房医療画像における他の組織の位置特定情報の組を学習データとして取得する。これらの学習データうち、第一乳房医療画像や第二乳房医療画像は入力データとして利用され、腫瘍の位置特定情報や他の組織の位置特定情報は教師データとして利用される。すなわち、学習装置10は、複数の第一乳房医療画像及び腫瘍の位置特定情報の組と、複数の第二乳房医療画像及び他の組織の位置特定情報の組とをそれぞれ入力して学習器の機械学習をする。 The learning device 10 is a computer that performs machine learning of a learner so as to generate a trained model for constructing a learner (program) such as a neural network, which is used in the image diagnosis assisting device 30 . Specifically, the learning device 10 then includes a plurality of first-breast medical images showing (the mammary glands of) a tumor and a set of tumor localization information in the plurality of first-breast medical images, A set of a plurality of second breast medical images showing tissues other than the first and a set of position specifying information of the other tissues in the plurality of second breast medical images are acquired as learning data. Among these learning data, the first breast medical image and the second breast medical image are used as input data, and the position specifying information of tumors and the position specifying information of other tissues are used as teacher data. That is, the learning device 10 inputs a set of a plurality of first breast medical images and tumor localization information and a set of a plurality of second breast medical images and other tissue localization information to the learning device. Do machine learning.

なお、「機械学習」とは、学習データに潜むパターンをコンピュータにより見つけ出すことであり、「学習器」は、そのような機械学習により所定のパターンを識別する能力を獲得可能なプログラムであり、その能力は学習モデルにより構築される。この学習器の種類は、ディープラーニング手法を用いた学習器やそれ以外の学習器であってもよく、特に限定されない。また、ディープラーニング手法としては、例えば、畳み込みニューラルネットワークや、敵対的生成ネットワーク、回帰結合型ニューラルネットワークが挙げられるが、特に限定されない。以下では、「学習器」が、畳み込みニューラルネットワークを用いた学習器である場合を説明する。また、「学習器」は、「識別器」又は「分類器」と称されてもよい。また、「位置特定情報」とは、腫瘍や他の組織が乳房医療画像においてどこに位置するかを特定するための情報であり、例えば腫瘍や他の組織の一又は複数の座標情報である。また、「他の組織」としては、骨や筋肉、乳腺、脂肪等が挙げられる。また、「学習モデル」は、学習器の設定(構築)を行うための各種パラメータ等を含むデータの集合である。また、「乳房医療画像」としては、医療用に用いられる、乳房のエコー画像、CT(Computed Tomography)画像、レントゲン画像、MRI(Magnetic Resonance Imaging)画像等が挙げられる。 "Machine learning" is to use a computer to find patterns hidden in learning data, and "learning device" is a program that can acquire the ability to identify a predetermined pattern through such machine learning. Competencies are built by learning models. The type of this learning device is not particularly limited and may be a learning device using a deep learning technique or another learning device. Deep learning techniques include, for example, convolutional neural networks, adversarial generative networks, and recursive neural networks, but are not particularly limited. Below, the case where the “learning device” is a learning device using a convolutional neural network will be described. A "learner" may also be referred to as a "classifier" or a "classifier." "Position specifying information" is information for specifying where a tumor or other tissue is located in a breast medical image, such as one or more pieces of coordinate information of a tumor or other tissue. "Other tissues" include bones, muscles, mammary glands, fat, and the like. A “learning model” is a set of data including various parameters for setting (constructing) a learning device. Further, the “breast medical image” includes breast echo images, CT (Computed Tomography) images, X-ray images, MRI (Magnetic Resonance Imaging) images, and the like, which are used for medical purposes.

上記のように、学習装置10にて生成された学習済みモデルは、例えばコンパクトディスクやUSBメモリ等の可搬型記憶媒体、又は、通信ネットワークNT等を介して画像診断補助装置30にインストールされる。なお、通信ネットワークNTの種類は、例えば、インターネット、無線通信網、移動通信網、電話網、専用網等から適宜選択されてよい。 As described above, the trained model generated by the learning device 10 is installed in the image diagnosis assisting device 30 via a portable storage medium such as a compact disc or USB memory, or a communication network NT or the like. The type of communication network NT may be appropriately selected from, for example, the Internet, wireless communication network, mobile communication network, telephone network, dedicated network, and the like.

一方、画像診断補助装置30は、人体の内部の組織、特に乳房(の乳腺)の構造を画像化する装置である。本実施形態では、画像診断補助装置30は、乳房を画像化するだけでなく、画像化した後の乳房医療画像に基づいて乳房の腫瘍の有無を判定する。具体的には、画像診断補助装置30は、学習装置10にて生成された学習済みモデルで構築された学習器に乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する。そして、画像診断補助装置30は、検出した複数の領域の位置関係に基づいて、第一領域が腫瘍であるか否かを判定する。この画像診断補助装置30としては、超音波画像診断補助装置やX線撮影装置等が挙げられるが、特に限定されない。本実施形態では、画像診断補助装置30が、人体の乳房に超音波を送信し、乳房の組織からの反射(エコー)を画像化することで、人体の乳房医療画像を取得する超音波画像診断補助装置である場合を説明する。 On the other hand, the image diagnosis assisting device 30 is a device for imaging the internal tissues of the human body, particularly the structure of the breast (mammary gland). In this embodiment, the image diagnosis assisting device 30 not only images the breast, but also determines the presence or absence of a breast tumor based on the breast medical image after imaging. Specifically, the image diagnosis assisting device 30 inputs a breast medical image to a learning device constructed from a trained model generated by the learning device 10, thereby obtaining a tumor candidate in the breast medical image. Detect one region and a second region that is a candidate for tissue other than the tumor in the breast medical image. Then, the image diagnosis assisting device 30 determines whether the first region is a tumor based on the detected positional relationship of the plurality of regions. Examples of the diagnostic imaging assisting device 30 include an ultrasonic diagnostic imaging assisting device, an X-ray imaging device, and the like, but are not particularly limited. In this embodiment, the image diagnosis assisting device 30 transmits ultrasonic waves to the breast of the human body and images the reflection (echo) from the tissue of the breast, thereby obtaining a medical image of the breast of the human body through ultrasound imaging diagnosis. A case of an auxiliary device will be described.

<ハードウェア構成>
図2は、図1に示す学習装置10のハードウェア構成の一例を示すブロック図である。
<Hardware configuration>
FIG. 2 is a block diagram showing an example of the hardware configuration of the learning device 10 shown in FIG. 1. As shown in FIG.

図2に示すように、学習装置10は、互いに電気的に接続された、制御部12と、記憶装置14と、入力装置16と、出力装置18と、通信インターフェース20と、ドライブ22と、を備える。なお、図2では、通信インターフェースを「通信I/F」と記載している。 As shown in FIG. 2, the learning device 10 includes a control unit 12, a storage device 14, an input device 16, an output device 18, a communication interface 20, and a drive 22, which are electrically connected to each other. Prepare. In addition, in FIG. 2, the communication interface is described as "communication I/F."

制御部12は、ハードウェアプロセッサであるCPU(Central Processing Unit)12Aと、GPU(Graphics Processing Unit)12Bと、RAM(Random Access Memory)12Cと、ROM(Read Only Memory)12Dとを含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。 The control unit 12 includes a CPU (Central Processing Unit) 12A, which is a hardware processor, a GPU (Graphics Processing Unit) 12B, a RAM (Random Access Memory) 12C, and a ROM (Read Only Memory) 12D. It is configured to execute various information processing based on the data.

記憶装置14は、例えばハードディスクやROM等で構成される。この記憶装置14は、学習プログラム14Aと、学習データ14Bと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを記憶する。学習プログラム14Aは、学習データ14Bを機械学習して学習結果データとして学習済みモデル(第一学習済みモデル14C及び第二学習済みモデル14D)を生成する学習器を含むプログラムである。学習データ14Bは、例えば、乳房及び腫瘍が写った複数の第一乳房医療画像及び複数の第一乳房医療画像における腫瘍の位置特定情報の組と、乳房及び腫瘍以外の他の組織が写った複数の第二乳房医療画像及び複数の第二乳房医療画像における他の組織の位置特定情報の組を含む。第一学習済みモデル14Cは、乳房医療画像において腫瘍の候補となる第一領域を学習器が検出するためのデータである。第二学習済みモデル14Dは、乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するためのデータである。 The storage device 14 is composed of, for example, a hard disk, a ROM, or the like. This storage device 14 stores a learning program 14A, learning data 14B, a first trained model 14C, and a second trained model 14D. The learning program 14A is a program including a learning device that machine-learns the learning data 14B and generates learned models (first trained model 14C and second trained model 14D) as learning result data. The training data 14B may be, for example, a plurality of first breast medical images showing the breast and the tumor, a set of tumor localization information in the plurality of first breast medical images, and a plurality of images showing the other tissues other than the breast and the tumor. second breast medical image and a set of other tissue localization information in the plurality of second breast medical images. The first trained model 14C is data for a learning device to detect a first region that is a tumor candidate in a breast medical image. The second trained model 14D is data for detecting a second region that is a candidate for tissue other than the tumor in the breast medical image.

入力装置16は、例えば、マウス、キーボード等、学習装置10に入力操作を行うための装置である。 The input device 16 is, for example, a device such as a mouse and a keyboard for performing an input operation to the learning device 10 .

出力装置18は、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。ユーザは、入力装置16及び出力装置18を介して、学習装置10を操作することができる。 The output device 18 is, for example, a device for outputting such as a display and a speaker. A user can operate the learning device 10 via the input device 16 and the output device 18 .

通信インターフェース20は、例えば、有線LAN(Local Area Network)モジュール、無線LANモジュール等であり、通信ネットワークNTを介した有線又は無線通信を行うためのインターフェースである。学習装置10は、当該通信インターフェース20を介して、生成した学習済みモデルを外部の装置に配信してもよい。 The communication interface 20 is, for example, a wired LAN (Local Area Network) module, a wireless LAN module, or the like, and is an interface for performing wired or wireless communication via the communication network NT. The learning device 10 may distribute the generated trained model to an external device via the communication interface 20 .

ドライブ22は、例えば、CDドライブ、DVDドライブ等であり、記憶媒体24に記憶されたプログラムやデータを読み込むためのドライブ装置である。ドライブ22の種類は、記憶媒体24の種類に応じて適宜選択されてよい。 The drive 22 is, for example, a CD drive, a DVD drive, or the like, and is a drive device for reading programs and data stored in the storage medium 24 . The type of drive 22 may be appropriately selected according to the type of storage medium 24 .

記憶媒体24は、記録されたプログラム等の情報をコンピュータその他装置、機械等が読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する非一過性の媒体である。学習装置10は、この記憶媒体24から、上記学習プログラム14A及び/又は学習データ14Bを取得してもよい。ここで、図2では、記憶媒体24の一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体24の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。 The storage medium 24 stores information such as programs by electrical, magnetic, optical, mechanical or chemical action so that information such as programs can be read by computers, other devices, machines, etc. It is a non-transitory medium for The learning device 10 may acquire the learning program 14A and/or the learning data 14B from this storage medium 24 . Here, in FIG. 2, as an example of the storage medium 24, a disk-type storage medium such as a CD or DVD is illustrated. However, the type of storage medium 24 is not limited to the disc type, and may be other than the disc type. As a storage medium other than the disk type, for example, a semiconductor memory such as a flash memory can be cited.

なお、学習装置10の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部12は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。学習装置10は、複数台の情報処理装置で構成されてもよい。また、学習装置2は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、PC(Personal Computer)等であってもよい。 Regarding the specific hardware configuration of the learning device 10, it is possible to omit, replace, or add components as appropriate according to the embodiment. For example, controller 12 may include multiple hardware processors. The hardware processor may consist of a microprocessor, a field-programmable gate array (FPGA), or the like. The learning device 10 may be composed of a plurality of information processing devices. The learning device 2 may be an information processing device designed exclusively for the service provided, or may be a general-purpose server device, a PC (Personal Computer), or the like.

図3は、図1に示す画像診断補助装置30のハードウェア構成の一例を示すブロック図である。 FIG. 3 is a block diagram showing an example of the hardware configuration of the image diagnosis assisting device 30 shown in FIG.

図3に示すように、画像診断補助装置30は、互いに電気的に接続された、制御部32と、記憶装置34と、表示装置36と、入力装置38と、超音波プローブ40と、送受信回路42と、信号処理回路44と、画像処理回路46と、を備える。 As shown in FIG. 3, the image diagnosis assisting device 30 includes a control unit 32, a storage device 34, a display device 36, an input device 38, an ultrasonic probe 40, and a transmission/reception circuit, which are electrically connected to each other. 42 , a signal processing circuit 44 and an image processing circuit 46 .

制御部32は、ハードウェアプロセッサであるCPU32Aと、GPU32Bと、RAM32Cと、ROM32Dとを含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。 The control unit 32 includes a CPU 32A, which is a hardware processor, a GPU 32B, a RAM 32C, and a ROM 32D, and is configured to execute various types of information processing based on programs and data.

記憶装置34は、例えばハードディスクやROM等で構成される。この記憶装置34は、腫瘍判定プログラム34Aと、第一学習済みモデル14Cと、第二学習済みモデル14D等を記憶する。腫瘍判定プログラム34Aは、超音波プローブ40から得られる乳房医療画像を、第一学習済みモデル14Cや第二学習済みモデル14Dで構築された学習器に入力することで、腫瘍の候補となる領域を検出し、実際にその領域が腫瘍であるか否かを判定するプログラムである。 The storage device 34 is composed of, for example, a hard disk, a ROM, or the like. This storage device 34 stores a tumor determination program 34A, a first trained model 14C, a second trained model 14D, and the like. The tumor determination program 34A inputs a breast medical image obtained from the ultrasonic probe 40 to a learning device constructed by the first trained model 14C and the second trained model 14D, thereby identifying regions that are candidate tumors. A program that detects and determines if the area is in fact a tumor.

表示装置36は、超音波プローブ40から得られる乳房医療画像やメニュー画面、画像診断補助装置30の設定画面等を表示する装置である。 The display device 36 is a device that displays a breast medical image obtained from the ultrasonic probe 40, a menu screen, a setting screen of the image diagnosis auxiliary device 30, and the like.

入力装置38は、マウスやキーボード、ボタン、パネルスイッチ、タッチコマンドスクリーン、フットスイッチ、トラックボール、ジョイスティック等、画像診断補助装置30に入力操作を行うための装置である。 The input device 38 is a device such as a mouse, keyboard, button, panel switch, touch command screen, foot switch, trackball, joystick, etc., for performing input operations to the image diagnosis auxiliary device 30 .

超音波プローブ40は、複数の振動子を有し、これら複数の振動子は、送受信回路42から供給される駆動信号に基づき超音波を発生する。また、超音波プローブ40が有する複数の振動子は、人体の乳房からの反射波を受信して電気信号に変換する。具体的には、超音波プローブ40から人体に超音波が送信されると、送信された超音波は、人体の体内組織における音響インピーダンスの不連続面で次々と反射され、反射波信号(エコー信号)として超音波プローブ40が有する複数の振動子にて受信される。受信される反射波信号の振幅は、超音波が反射される不連続面における音響インピーダンスの差に依存する。 The ultrasonic probe 40 has a plurality of transducers, and the plurality of transducers generate ultrasonic waves based on drive signals supplied from the transmission/reception circuit 42 . Also, the plurality of transducers included in the ultrasonic probe 40 receive reflected waves from the breasts of the human body and convert them into electrical signals. Specifically, when ultrasonic waves are transmitted from the ultrasonic probe 40 to the human body, the transmitted ultrasonic waves are reflected one after another from discontinuous surfaces of acoustic impedance in the body tissues of the human body, resulting in reflected wave signals (echo signals ) are received by a plurality of transducers of the ultrasonic probe 40 . The amplitude of the received reflected wave signal depends on the difference in acoustic impedance at the discontinuity from which the ultrasonic waves are reflected.

送受信回路42は、超音波プローブ40に駆動信号を供給する。また、送受信回路42は、超音波プローブ40から超音波ビームを送信させる。そして、送受信回路42は、超音波プローブ40が受信した反射波信号から反射波データを生成する。 The transmission/reception circuit 42 supplies a driving signal to the ultrasonic probe 40 . Also, the transmission/reception circuit 42 causes the ultrasonic probe 40 to transmit an ultrasonic beam. Then, the transmission/reception circuit 42 generates reflected wave data from the reflected wave signal received by the ultrasonic probe 40 .

信号処理回路44は、例えば、送受信回路42から受信した反射波データに対して、各種処理を行って中間データを生成する。この中間データは、画像処理回路46に出力される。 For example, the signal processing circuit 44 performs various processes on the reflected wave data received from the transmission/reception circuit 42 to generate intermediate data. This intermediate data is output to the image processing circuit 46 .

画像処理回路46は、信号処理回路44により生成された中間データから表示用の乳房医療画像を生成する。画像処理回路46で生成された乳房医療画像は、表示装置36にリアルタイムに表示される。 The image processing circuit 46 generates breast medical images for display from the intermediate data generated by the signal processing circuit 44 . A breast medical image generated by the image processing circuit 46 is displayed on the display device 36 in real time.

なお、画像診断補助装置30の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部12は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。画像診断補助装置30は、複数台の情報処理装置で構成されてもよい。 Regarding the specific hardware configuration of the image diagnosis assisting device 30, it is possible to omit, replace, and add components as appropriate according to the embodiment. For example, controller 12 may include multiple hardware processors. The hardware processor may consist of a microprocessor, a field-programmable gate array (FPGA), or the like. The image diagnosis assisting device 30 may be composed of a plurality of information processing devices.

<機能的構成>
図4は、図2に示す学習装置10の機能的構成(ソフトウェア構成)の一例を示すブロック図である。
<Functional configuration>
FIG. 4 is a block diagram showing an example of the functional configuration (software configuration) of the learning device 10 shown in FIG.

図4に示すように、学習装置10は、機能的構成として、記憶手段60と、画像取得手段62と、前処理手段64と、教師データ取得手段66と、学習処理手段68と、を備える。記憶手段60は、記憶装置14で実現される。その他の機能的構成は、学習プログラム14AをRAM12Cに展開し、当該RAM12Cに展開された学習プログラム14AをCPU12Aにより解釈及び実行することにより実現される。 As shown in FIG. 4, the learning device 10 includes storage means 60, image acquisition means 62, preprocessing means 64, teacher data acquisition means 66, and learning processing means 68 as functional configurations. The storage means 60 is realized by the storage device 14 . Other functional configurations are implemented by loading the learning program 14A in the RAM 12C and having the CPU 12A interpret and execute the learning program 14A loaded in the RAM 12C.

記憶手段60は、上述の学習データ14Bと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを記憶する機能を有する。 The storage means 60 has a function of storing the learning data 14B, the first trained model 14C, and the second trained model 14D.

画像取得手段62は、腫瘍が写った複数の第一乳房医療画像と、腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する機能を有する。本実施形態では、第一乳房医療画像は、良性腫瘍が写った画像と、悪性腫瘍が写った画像と、を含む。また、第二乳房医療画像は、骨が写った画像と、筋肉が写った画像と、を含む。 The image acquisition means 62 has a function of acquiring a plurality of first breast medical images showing a tumor and a plurality of second breast medical images showing tissues other than the tumor. In this embodiment, the first breast medical image includes an image showing a benign tumor and an image showing a malignant tumor. Also, the second breast medical image includes an image showing bones and an image showing muscles.

前処理手段64は、画像取得手段62が取得した乳房医療画像(第一乳房医療画像及び第二乳房医療画像)に対して各種の前処理を実行する機能を有する。具体的には、前処理手段64は、機械学習への悪影響回避のため、画像取得手段62が取得した乳房医療画像の画像コントラストを正規化する第一前処理を実行する。また、前処理手段64は、誤識別抑制のため、256段階の色表現を半分以下に削減する第二前処理を実行する。また、前処理手段64は、画像全体に対して占める割合の低い腫瘍を精度よく捉え、かつ腫瘍が分割されることを回避するため、オーバーラップさせながら細かく乳房医療画像を分割する第三処理を実行する。 The preprocessing means 64 has a function of performing various preprocessing on the breast medical images (the first breast medical image and the second breast medical image) acquired by the image acquiring means 62 . Specifically, the preprocessing means 64 performs first preprocessing for normalizing the image contrast of the breast medical image acquired by the image acquisition means 62 in order to avoid adverse effects on machine learning. In addition, the pre-processing means 64 executes a second pre-processing for reducing the 256-step color expression to less than half in order to suppress erroneous identification. In addition, the preprocessing means 64 performs a third process of finely dividing the breast medical image while overlapping in order to accurately capture a tumor that occupies a low proportion of the entire image and to avoid dividing the tumor. Run.

教師データ取得手段66は、例えば、学習装置10のユーザの操作に基づき、前処理された複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前処理された複数の第二乳房医療画像において他の組織の位置特定情報を教師データとして取得する機能を有する。本実施形態では、医師の判断・操作に基づき、第一乳房医療画像及び第二乳房医療画像の中から良質な画像を抽出し、抽出した各第一乳房医療画像から良性腫瘍又は悪性腫瘍の位置特定情報を取得するとともに、抽出した各第二乳房医療画像から骨又は筋肉の位置特定情報を取得することで、良質な教師データを取得する。なお、位置特定情報は、医師が乳房医療画像において悪性腫瘍等の領域を指定することで得られる。この領域の形状は、矩形や円形、楕円等、特に限定されないが、例えば矩形である。矩形としては、例えば、悪性腫瘍等の輪郭に外接する外接矩形や、悪性腫瘍等の輪郭に内接する内接矩形等が挙げられる。本実施形態では、位置特定情報は外接矩形で指定される。 For example, based on the operation of the user of the learning device 10, the teacher data acquisition means 66 acquires tumor position specifying information in a plurality of preprocessed first breast medical images as first teacher data, and preprocessed It has a function of acquiring position specifying information of other tissues in a plurality of second breast medical images as teacher data. In this embodiment, based on the doctor's judgment and operation, high-quality images are extracted from the first breast medical image and the second breast medical image, and the position of the benign tumor or malignant tumor is extracted from each of the extracted first breast medical images. Good-quality teacher data is obtained by obtaining specific information and position specific information of bones or muscles from each of the extracted second breast medical images. Note that the position specifying information is obtained by a doctor specifying a region such as a malignant tumor in a breast medical image. The shape of this area is not particularly limited and may be rectangular, circular, elliptical, etc. For example, it is rectangular. As a rectangle, for example, a circumscribing rectangle that circumscribes the contour of a malignant tumor or the like, or an inscribed rectangle that inscribes the contour of a malignant tumor or the like can be used. In this embodiment, the position specifying information is specified by a circumscribing rectangle.

学習処理手段68は、複数の第一乳房医療画像及び第一教師データの組と、複数の第二乳房医療画像及び第二教師データの組とをそれぞれ入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域と、当該所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出するための学習済みモデル、を生成する機能を有する。本実施形態では、学習処理手段68は、複数の第一乳房医療画像及び第一教師データの組を入力して機械学習(第一学習処理)し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデル14Cを生成する。また、学習処理手段68は、複数の第二乳房医療画像及び第二教師データの組を入力して機械学習(第二学習処理)し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデル14Dを生成する。なお、機械学習の学習回数は、特に限定されないが、感度及び特異度を両方高めるという観点から、例えば2万回以上6万回以下であることが好ましく。4万回以上6万回以下であることがより好ましい。なお、「感度」とは、病気な人(腫瘍がある人)の中で、検査で発見できる確率である。また、「特異度」とは、元気な人に対して、病気でない(腫瘍がない)と判定する確率である。 The learning processing means 68 inputs sets of a plurality of first breast medical images and first teacher data and sets of a plurality of second breast medical images and second teacher data, respectively, and performs machine learning to perform predetermined breast medical treatment. It has a function of generating a trained model for detecting a first region that is a tumor candidate in the image and a second region that is a tissue candidate other than the tumor in the predetermined breast medical image. In this embodiment, the learning processing means 68 inputs sets of a plurality of first breast medical images and first teacher data, performs machine learning (first learning processing), and becomes tumor candidates in predetermined breast medical images. A first trained model 14C is generated for detecting the first region. In addition, the learning processing means 68 inputs sets of a plurality of second breast medical images and second teacher data, performs machine learning (second learning processing), and performs tissue candidates other than the tumor in a predetermined breast medical image. A second trained model 14D is generated for detecting the second region where Although the number of machine learning is not particularly limited, it is preferably 20,000 times or more and 60,000 times or less from the viewpoint of increasing both sensitivity and specificity. More preferably, it is 40,000 times or more and 60,000 times or less. In addition, "sensitivity" is the probability that it can be detected by a test among sick people (those with tumors). "Specificity" is the probability of determining that a healthy person is not sick (no tumor).

図5は、図3に示す画像診断補助装置30の機能的構成(ソフトウェア構成)の一例を示すブロック図である。 FIG. 5 is a block diagram showing an example of the functional configuration (software configuration) of the image diagnosis assisting device 30 shown in FIG.

図5に示すように、画像診断補助装置30は、記憶手段70と、取得手段72と、検出手段74と、判定手段76と、出力手段78と、を備える。記憶手段70は、記憶装置34で実現される。その他の機能的構成は、腫瘍判定プログラム34AをRAM32Cに展開し、当該RAM32Cに展開された腫瘍判定プログラム34AをCPU32Aにより解釈及び実行することにより実現される。 As shown in FIG. 5 , the image diagnosis assisting device 30 includes storage means 70 , acquisition means 72 , detection means 74 , determination means 76 and output means 78 . The storage means 70 is realized by the storage device 34 . Other functional configurations are implemented by loading the tumor determination program 34A in the RAM 32C and interpreting and executing the tumor determination program 34A loaded in the RAM 32C by the CPU 32A.

記憶手段70は、上述の第一学習済みモデル14Cと、第二学習済みモデル14Dと、を記憶する機能を有する。 The storage means 70 has a function of storing the above-described first trained model 14C and second trained model 14D.

取得手段72は、超音波プローブ40等を駆動制御することで、人体の乳房が写った乳房医療画像を取得する機能を有する。なお、実際には、取得手段72は、乳房医療画像を乳房映像の一部としてリアルタイムに取得する。 The acquisition unit 72 has a function of acquiring a breast medical image showing a human breast by driving and controlling the ultrasound probe 40 and the like. Note that, in practice, the acquisition unit 72 acquires the breast medical image in real time as part of the breast video.

検出手段74は、取得手段72にて取得された乳房医療画像を、機械学習が行われた学習済みモデルで構築された一又は複数の学習器に入力することで、学習器が演算処理し、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する機能を有する。本実施形態では、検出手段74は、乳房医療画像を第一学習済みモデル14Cで構築(設定)された学習器に入力することで第一領域を検出し、且つ、乳房医療画像を第二学習済みモデル14Dで構築された学習器に入力することで第二領域を検出する。 The detection means 74 inputs the breast medical image acquired by the acquisition means 72 to one or a plurality of learners constructed with trained models that have undergone machine learning, so that the learners perform arithmetic processing, It has a function of detecting a first region that is a tumor candidate in the breast medical image and a second region that is a tissue candidate other than the tumor in the breast medical image. In this embodiment, the detection means 74 detects the first region by inputting the breast medical image to the learner constructed (set) by the first trained model 14C, and detects the breast medical image as the second trained model. The second region is detected by inputting to the learner constructed with the finished model 14D.

ここで、「腫瘍の候補となる第一領域」とは、例えば、腫瘍である確率が第一閾値以上の確率が対応付けられた領域である。また、「他の組織の候補となる第二領域」とは、例えば、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。本実施形態では、検出手段74は、良性腫瘍の候補となる第一領域として、良性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、悪性腫瘍の候補となる第一領域として、悪性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、を検出する。また、検出手段74は、骨の候補となる第二領域として、骨である確率が第二閾値以上の確率が対応付けられた領域と、筋肉の候補となる第二領域として、筋肉である確率が第二閾値以上の確率が対応付けられた領域と、を検出する。 Here, the “first region that is a candidate for tumor” is, for example, a region associated with a probability that the probability of being a tumor is equal to or greater than the first threshold. Also, the “second region that is a candidate for another tissue” is, for example, a region associated with a probability that the probability of being a tissue other than a tumor is equal to or greater than the second threshold. In the present embodiment, the detection means 74 uses, as the first regions to be benign tumor candidates, a region associated with a probability of being a benign tumor equal to or higher than a first threshold, and a first region to be a malignant tumor candidate. , a region associated with a probability that the probability of being a malignant tumor is equal to or greater than the first threshold is detected. Further, the detecting means 74 detects, as a second region that is a bone candidate, a region associated with a probability that the probability of being a bone is equal to or higher than the second threshold, and as a second region that is a muscle candidate, a probability that it is a muscle. are associated with probabilities equal to or greater than the second threshold.

なお、上記第一閾値と第二閾値は、同一であっても異なっていてもよい。例えば、他の組織は腫瘍に比べて候補を多く検出した方が結果的に腫瘍の判定精度が向上するという観点から、第二閾値が第一閾値よりも低いことが好ましい。第一閾値及び第二閾値は、腫瘍の候補の検出精度を高めるという観点から、5%以上100%以下であることが好ましく、10%以上50%以下であることがより好ましい。特に、第一閾値は、15%以上30%以下であることが更により好ましい。また、第二閾値は、10%以上20%以下であることが更により好ましい。本実施形態では、第一閾値は20%であり、第二閾値は10%である。 Note that the first threshold and the second threshold may be the same or different. For example, the second threshold is preferably lower than the first threshold from the viewpoint that the more candidates are detected for other tissues than the tumor, the more the tumor determination accuracy is improved. The first threshold and the second threshold are preferably 5% or more and 100% or less, more preferably 10% or more and 50% or less, from the viewpoint of increasing the detection accuracy of tumor candidates. In particular, it is even more preferable that the first threshold is 15% or more and 30% or less. Further, it is even more preferable that the second threshold is 10% or more and 20% or less. In this embodiment, the first threshold is 20% and the second threshold is 10%.

判定手段76は、検出手段74にて検出された複数の領域の位置関係に基づいて、第一領域が腫瘍であるか否かを判定する機能を有する。例えば、判定手段76は、良性腫瘍又は悪性腫瘍の候補となる第一領域の位置が、筋肉又は骨の候補となる第二領域の位置よりも上であれば腫瘍であると肯定判定し、筋肉又は骨の候補となる第二領域の位置よりも下であれば腫瘍でないと否定判定する。また、例えば、判定手段76は、良性腫瘍又は悪性腫瘍の候補となる第一領域の位置が、筋肉又は骨の候補となる第二領域の位置から閾値以上に離れている場合は腫瘍であると肯定判定し、筋肉又は骨の候補となる第二領域の位置未満しか離れていない場合は腫瘍でないと否定判定してもよい。なお、第一領域の位置と、第二領域の位置は、例えば、領域の中心点の位置であっても、領域の最も下の点の位置であってもよい。なお、上記位置関係において「上」とは、乳房医療画像において皮膚側を意味する。 The determination means 76 has a function of determining whether or not the first region is a tumor based on the positional relationship of the multiple regions detected by the detection means 74 . For example, if the position of the first region that is a candidate for benign or malignant tumor is higher than the position of the second region that is a candidate for muscle or bone, the determination means 76 makes a positive determination that it is a tumor. Alternatively, if it is below the position of the second region that is a candidate for bone, it is negatively judged as not being a tumor. Further, for example, the determining means 76 determines that a tumor is present when the position of the first region, which is a candidate for a benign or malignant tumor, is separated from the position of the second region, which is a candidate for muscle or bone, by a threshold value or more. Affirmative determination may be made, and if the distance is less than the position of the second region, which is a candidate for muscle or bone, a negative determination may be made that it is not a tumor. The position of the first area and the position of the second area may be, for example, the position of the central point of the area or the position of the lowest point of the area. In the above positional relationship, "upper" means the skin side in the breast medical image.

また、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。例えば、判定手段76は、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とが重なった場合、判定手段76は、確率の高い方の腫瘍であると判定する。 Further, the determination means 76 determines whether the first region is a benign tumor or not based on the probability associated with the region detected by the detection means 74 when the first region is detected as a tumor Determine whether it is a malignant tumor. For example, when the region associated with the probability of being a malignant tumor and the region associated with the probability of being a benign tumor overlap, the determining means 76 selects the tumor with the higher probability. I judge.

また、判定手段76は、検出手段74にて検出された他の組織の候補となる第二領域を、そのまま他の組織であると判定する。 Further, the determining means 76 determines that the second region, which is a candidate for another tissue detected by the detecting means 74, is another tissue as it is.

出力手段78は、判定手段76の判定結果を出力する機能を有する。例えば、出力手段78は、リアルタイムに表示装置36に表示される乳房医療画像に反映する。具体的には、出力手段78は、リアルタイムに取得・表示された乳房医療画像において判定手段76が腫瘍であると判定した領域を囲うように表示するとともに、その領域が腫瘍である旨を記述する。また、出力手段78は、乳房医療画像において他の組織であると判定した領域を囲うように表示するとともに、その領域が他の組織である旨を記述する。また、出力手段78は、医師による診断の邪魔とならないように、乳房医療画像の隅等に腫瘍であることを示す文字やマークを表示してもよい。また、出力手段78は、判定結果を音や紙媒体に出力してもよい。 The output means 78 has a function of outputting the determination result of the determination means 76 . For example, the output means 78 reflects breast medical images displayed on the display device 36 in real time. Specifically, the output means 78 encloses the area determined to be a tumor by the determination means 76 in the breast medical image acquired and displayed in real time, and describes that the area is a tumor. . In addition, the output unit 78 encloses and displays the area determined to be other tissue in the breast medical image, and describes that the area is other tissue. In addition, the output means 78 may display a character or mark indicating a tumor in a corner of the breast medical image so as not to interfere with diagnosis by a doctor. Moreover, the output means 78 may output the determination result to sound or a paper medium.

<処理手順>
図6は、学習装置10の各機能的構成の処理手順を示すフローチャートである。なお、以下のステップの処理の内容及び順番は適宜変更することができる。
<Processing procedure>
FIG. 6 is a flow chart showing the processing procedure of each functional configuration of the learning device 10. As shown in FIG. Note that the contents and order of the processing of the following steps can be changed as appropriate.

(ステップSP10)
画像取得手段62は、記憶手段60や他の記憶手段等から、乳房及び良性腫瘍が写った複数の第一乳房医療画像と、乳房及び悪性腫瘍が写った複数の第一乳房医療画像を取得する。また、画像取得手段62は、記憶手段60や他の記憶手段等から、乳房及び骨が写った複数の第二乳房医療画像と、乳房及び筋肉が写った第二乳房医療画像を取得する。この際、医師の判断・操作に基づき、第一乳房医療画像及び第二乳房医療画像の中から良質な画像のみが取得される。そして、処理は、ステップSP12の処理に移行する。
(Step SP10)
Image acquisition means 62 acquires a plurality of first breast medical images showing breasts and benign tumors and a plurality of first breast medical images showing breasts and malignant tumors from storage means 60 or other storage means. . Further, the image acquisition means 62 acquires a plurality of second breast medical images showing breasts and bones and a second breast medical image showing breasts and muscles from the storage means 60 or other storage means. At this time, based on the doctor's judgment and operation, only high-quality images are acquired from the first breast medical image and the second breast medical image. Then, the process shifts to the process of step SP12.

(ステップSP12)
前処理手段64は、画像取得手段62が取得した各乳房医療画像に対して前処理を実行する。具体的には、前処理手段64は、画像取得手段62が取得した乳房医療画像の画像コントラストを正規化する第一前処理を実行する。また、前処理手段64は、各乳房医療画像に対して256段階の色表現を半分以下に削減する第二前処理を実行する。また、オーバーラップさせながら細かく各乳房医療画像を分割する第三前処理を実行する。なお、第一前処理、第二前処理、第三前処理を実行する順番は適宜変更することができる。また、これら前処理の全部又は一部は省略してもよい。そして、処理は、ステップSP14の処理に移行する。
(Step SP12)
The preprocessing means 64 performs preprocessing on each breast medical image acquired by the image acquiring means 62 . Specifically, the preprocessing means 64 performs a first preprocessing for normalizing the image contrast of the breast medical image acquired by the image acquiring means 62 . The pre-processing means 64 also performs a second pre-processing that reduces the 256-step color representation to less than half for each breast medical image. Also, a third preprocessing is executed to finely divide each breast medical image while overlapping. Note that the order of executing the first pre-processing, the second pre-processing, and the third pre-processing can be changed as appropriate. Also, all or part of these pretreatments may be omitted. Then, the process shifts to the process of step SP14.

(ステップSP14)
教師データ取得手段66は、ユーザの操作に基づき、前処理された複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前処理された複数の第二乳房医療画像において他の組織の位置特定情報を第二教師データとして取得する。具体的には、教師データ取得手段66は、ユーザとしての医師の判断・操作に基づき、各第一乳房医療画像から良性腫瘍又は悪性腫瘍であることを示す識別情報と、その位置特定情報(矩形領域の領域情報)を第一教師データとして取得する。また、教師データ取得手段66は、医師の判断・操作に基づき、各第二乳房医療画像から骨又は筋肉であることを示す識別情報と、その位置特定情報(矩形領域の領域情報)を第二教師データとして取得する。これにより、学習装置10は、複数の第一乳房医療画像及び第一教師データの組と、複数の第二乳房医療画像及び第二教師データの組とを含む良質な学習データ14Bを取得する。この学習データ14Bは、記憶手段60に記憶される。そして、処理は、ステップSP16の処理に移行する。
(Step SP14)
A teacher data acquiring means 66 acquires, as first teacher data, tumor position specifying information in a plurality of preprocessed first breast medical images based on a user's operation, and acquires a plurality of preprocessed second breast medical images. The position specifying information of other tissues in the medical image is obtained as second training data. Specifically, based on the judgment and operation of a doctor as a user, the teacher data acquisition means 66 acquires identification information indicating that each first breast medical image is a benign tumor or malignant tumor, and its position specifying information (rectangular area information) as the first teacher data. In addition, based on the doctor's judgment and operation, the teacher data acquisition means 66 acquires identification information indicating that it is a bone or muscle from each second breast medical image and its position specifying information (area information of a rectangular area) to the second breast medical image. Acquire as teacher data. As a result, the learning device 10 acquires high-quality learning data 14B including a plurality of sets of first breast medical images and first teacher data and a plurality of sets of second breast medical images and second teacher data. This learning data 14 B is stored in the storage means 60 . Then, the process shifts to the process of step SP16.

(ステップSP16)
学習処理手段68は、ユーザの操作に基づき、第一学習済みモデル14Cを生成するための一又は複数の第一パラメータの設定を受け付ける。例えば、学習処理手段68は、第一パラメータとして、第一学習済みモデル14Cを生成する第一学習処理のための第一学習回数や第一閾値等の設定を受け付ける。そして、処理は、ステップSP18の処理に移行する。
(Step SP16)
The learning processing means 68 accepts the setting of one or more first parameters for generating the first trained model 14C based on the user's operation. For example, the learning processing means 68 receives settings such as the number of first learning times and the first threshold value for the first learning process for generating the first trained model 14C as the first parameter. Then, the process shifts to the process of step SP18.

(ステップSP18)
学習処理手段68は、ユーザの操作に基づき、第二学習済みモデルを生成するための一又は複数の第二パラメータの設定を受け付ける。例えば、学習処理手段68は、第二パラメータとして、第二学習済みモデル14Dを生成する第二学習処理のための第二学習回数や第二閾値等の設定を受け付ける。そして、処理は、ステップSP20の処理に移行する。
(Step SP18)
The learning processing means 68 accepts the setting of one or more second parameters for generating the second trained model based on the user's operation. For example, the learning processing means 68 receives settings such as the second learning count and the second threshold value for the second learning process for generating the second trained model 14D as the second parameters. Then, the process shifts to the process of step SP20.

(ステップSP20)
学習処理手段68は、ユーザから、2つの学習処理、すなわち、第一学習処理及び第二学習処理を実行する実行操作を受け付ける。そして、処理は、ステップSP22の処理及びステップSP34の処理にそれぞれ移行する。なお、以下のステップSP22~ステップSP32の各処理と、ステップSP34~ステップSP44の各処理とは、並行して実行されるが、どちらか一方の各処理を実行した後、他方の各処理が実行されてもよい。
(Step SP20)
The learning processing means 68 receives from the user an execution operation for executing two learning processes, that is, the first learning process and the second learning process. Then, the process moves to the process of step SP22 and the process of step SP34. Each process of steps SP22 to SP32 and each process of steps SP34 to SP44 below are executed in parallel, but after one of the processes is executed, the other process is executed. may be

(ステップSP22)
学習処理手段68は、設定された第一学習回数aだけ、ステップSP24~ステップSP30の処理を繰り返す(ループ処理)。すなわち、学習処理手段68は、変数iが第一学習回数aとなるまで、変数iを1からインクリメントしながら、ステップSP24~ステップSP30の処理を繰り返す。
(Step SP22)
The learning processing means 68 repeats the processing of steps SP24 to SP30 for the set first learning times a (loop processing). That is, the learning processing means 68 repeats the processing of steps SP24 to SP30 while incrementing the variable i from 1 until the variable i reaches the first number of times of learning a.

(ステップSP24)
学習処理手段68は、腫瘍に係る学習データ14Bを初期状態の学習器に入力する。具体的には、学習処理手段68は、学習データ14Bとして、乳房及び腫瘍が写った第一乳房医療画像及び当該第一乳房医療画像における腫瘍の位置特定情報(腫瘍の識別情報を含む)の一組を初期状態の学習器に入力する。そして、処理は、ステップSP26の処理に移行する。
(Step SP24)
The learning processing means 68 inputs the learning data 14B related to the tumor to the learning device in the initial state. Specifically, the learning processing means 68 uses, as the learning data 14B, a first breast medical image showing a breast and a tumor, and one of tumor position specifying information (including tumor identification information) in the first breast medical image. Input the tuples into the learner in the initial state. Then, the process shifts to the process of step SP26.

(ステップSP26)
学習処理手段68は、入力した学習データ14Bに基づき、学習器に対して第一学習処理(機械学習)を実行させる。なお、この第一学習処理では、例えば、学習データ14Bに対して畳み込み処理やプーリング処理が繰り返される。そして、処理は、ステップSP28の処理に移行する。
(Step SP26)
The learning processing means 68 causes the learning device to perform a first learning process (machine learning) based on the input learning data 14B. Note that, in this first learning process, for example, the convolution process and the pooling process are repeated for the learning data 14B. Then, the process shifts to the process of step SP28.

(ステップSP28)
学習処理手段68は、学習器が生成する学習結果データに基づき、学習器の各種パラメータを更新する。そして、処理は、ステップSP30の処理に移行する。
(Step SP28)
The learning processing means 68 updates various parameters of the learning device based on the learning result data generated by the learning device. Then, the process shifts to the process of step SP30.

(ステップSP30)
学習処理手段68は、変数iが第一学習回数a未満である場合には、処理はステップSP22の処理に戻り、変数iが第一学習回数aである場合にはループ処理を抜け、処理はステップSP32の処理に移行する。
(Step SP30)
If the variable i is less than the first learning frequency a, the learning processing means 68 returns to step SP22. The process proceeds to step SP32.

(ステップSP32)
学習処理手段68は、ループ処理により最終的に更新された学習器の各種パラメータを第一学習済みモデル14Cとして記憶手段60に記憶する。そして、図6に示す一連の処理が終了する。
(Step SP32)
The learning processing means 68 stores various parameters of the learning device finally updated by the loop processing in the storage means 60 as the first trained model 14C. Then, the series of processes shown in FIG. 6 ends.

(ステップSP34)
ステップSP20から移行された後、学習処理手段68は、設定された第二学習回数bだけ、ステップSP36~ステップSP42の処理を繰り返す(ループ処理)。すなわち、学習処理手段68は、変数jが第二学習回数bとなるまで、変数jを1からインクリメントしながら、ステップSP36~ステップSP42の処理を繰り返す。
(Step SP34)
After moving from step SP20, the learning processing means 68 repeats the processing of steps SP36 to SP42 for the set second learning times b (loop processing). That is, the learning processing means 68 repeats the processing of steps SP36 to SP42 while incrementing the variable j from 1 until the variable j reaches the second number of times of learning b.

(ステップSP36)
学習処理手段68は、他の組織に係る学習データ14Bを初期状態の学習器に入力する。具体的には、学習処理手段68は、学習データ14Bとして、乳房及び他の組織が写った第二乳房医療画像及び当該第二乳房医療画像における他の組織の位置特定情報(他の組織の識別情報を含む)の一組を初期状態の学習器に入力する。そして、処理は、ステップSP38の処理に移行する。
(Step SP36)
The learning processing means 68 inputs the learning data 14B related to other tissues to the learning device in the initial state. Specifically, the learning processing means 68 uses, as the learning data 14B, a second breast medical image in which the breast and other tissues appear and position specifying information of other tissues in the second breast medical image (identification of other tissues information) is input to the learner in the initial state. Then, the process shifts to the process of step SP38.

(ステップSP38)
学習処理手段68は、入力した学習データ14Bに基づき、学習器に対して第二学習処理(機械学習)を実行させる。なお、第二学習処理では、例えば、学習データ14Bに対して畳み込み処理やプーリング処理が繰り返される。そして、処理は、ステップSP40の処理に移行する。
(Step SP38)
The learning processing means 68 causes the learning device to execute a second learning process (machine learning) based on the input learning data 14B. In addition, in the second learning process, for example, the convolution process and the pooling process are repeated for the learning data 14B. Then, the process shifts to the process of step SP40.

(ステップSP40)
学習処理手段68は、学習器が生成する学習結果データに基づき、学習器の各種パラメータを更新する。そして、処理は、ステップSP42の処理に移行する。
(Step SP40)
The learning processing means 68 updates various parameters of the learning device based on the learning result data generated by the learning device. Then, the process moves to the process of step SP42.

(ステップSP42)
学習処理手段68は、変数jが第二学習回数b未満である場合には、処理はステップSP34の処理に戻り、変数jが第二学習回数bである場合にはループ処理を抜け、処理はステップSP44の処理に移行する。
(Step SP42)
The learning processing means 68 returns to the processing of step SP34 when the variable j is less than the second learning count b, and exits the loop processing when the variable j is the second learning count b. The process proceeds to step SP44.

(ステップSP44)
学習処理手段68は、ループ処理により最終的に更新された学習器の各種パラメータを第二学習済みモデル14Dとして記憶手段60に記憶する。そして、図6に示す一連の処理が終了する。
(Step SP44)
The learning processing means 68 stores various parameters of the learning device finally updated by the loop processing in the storage means 60 as the second trained model 14D. Then, the series of processes shown in FIG. 6 ends.

図7は、画像診断補助装置30の各機能的構成の処理手順を示すフローチャートである。なお、以下のステップの処理の内容及び順番は適宜変更することができる。 FIG. 7 is a flow chart showing a processing procedure of each functional configuration of the image diagnosis assisting device 30. As shown in FIG. Note that the contents and order of the processing of the following steps can be changed as appropriate.

(ステップSP50)
取得手段72は、超音波プローブ40を駆動制御して乳房医療画像を取得する。そして、処理は、ステップSP52の処理及びステップSP56の処理に移行する。なお、以下のステップSP52~ステップSP54の各処理と、ステップSP56~ステップSP58の各処理とは、並行して実行されるが、どちらか一方の各処理を実行した後、他方の各処理が実行されてもよい。
(Step SP50)
Acquisition means 72 drives and controls the ultrasound probe 40 to acquire a breast medical image. Then, the process shifts to the process of step SP52 and the process of step SP56. Each process of steps SP52 to SP54 and each process of steps SP56 to SP58 below are executed in parallel, but after one of the processes is executed, the other process is executed. may be

(ステップSP52)
検出手段74は、記憶手段70から第一学習済みモデル14Cを読み込み、当該第一学習済みモデル14Cで学習器を構築する。なお、ステップSP50の処理の前に、第一学習済みモデル14Cで学習器を構築していてもよい。この場合、ステップSP52は省略される。そして、処理は、ステップSP54の処理に移行する。
(Step SP52)
The detection means 74 reads the first trained model 14C from the storage means 70, and builds a learning device with the first trained model 14C. Note that a learner may be constructed with the first trained model 14C before the process of step SP50. In this case, step SP52 is omitted. Then, the process shifts to the process of step SP54.

(ステップSP54)
検出手段74は、乳房医療画像から腫瘍の候補となる第一領域を検出する。具体的には、検出手段74は、第一学習済みモデル14Cで構築された学習器に乳房医療画像を入力することで、検出手段74は、第一領域として、良性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、悪性腫瘍である確率が第一閾値以上の確率が対応付けられた領域と、を検出する。そして、処理は、ステップSP60の処理に移行する。
(Step SP54)
The detection means 74 detects a first tumor candidate region from the breast medical image. Specifically, the detection means 74 inputs the breast medical image to the learner constructed by the first trained model 14C, and the detection means 74 detects that the probability of being a benign tumor is the first region as the first region. A region associated with a probability equal to or higher than a threshold and a region associated with a probability of being a malignant tumor equal to or higher than the first threshold are detected. Then, the process shifts to the process of step SP60.

(ステップSP56)
ステップSP50から移行された後、検出手段74は、記憶手段70から第二学習済みモデル14Dを読み込み、当該第二学習済みモデル14Dで学習器を構築する。なお、ステップSP50の処理の前に、第二学習済みモデル14Dで学習器を構築していてもよい。この場合、本ステップSP56は省略される。そして、処理は、ステップSP58の処理に移行する。
(Step SP56)
After moving from step SP50, the detection means 74 reads the second trained model 14D from the storage means 70, and builds a learning device with the second trained model 14D. Note that a learning device may be constructed with the second trained model 14D before the process of step SP50. In this case, this step SP56 is omitted. Then, the process shifts to the process of step SP58.

(ステップSP58)
検出手段74は、乳房医療画像から他の組織の候補となる第二領域を検出する。具体的には、検出手段74は、第二学習済みモデル14Dで構築された学習器に乳房医療画像を入力することで、検出手段74は、第二領域として、骨である確率が第二閾値以上の確率が対応付けられた領域と、筋肉である確率が第二閾値以上の確率が対応付けられた領域と、を検出する。そして、処理は、ステップSP60の処理に移行する。
(Step SP58)
The detection means 74 detects a second region that is a candidate for another tissue from the breast medical image. Specifically, the detection means 74 inputs the breast medical image to the learning device constructed by the second trained model 14D, and the detection means 74 detects the probability that the second region is bone with the second threshold Regions associated with the above probabilities and regions associated with probabilities of muscle being greater than or equal to the second threshold are detected. Then, the process shifts to the process of step SP60.

(ステップSP60)
判定手段76は、ステップSP58で検出された第二領域の領域数cを取得する。なお、この領域数cは、ゼロ又は自然数である。そして、処理は、ステップSP62の処理に移行する。
(Step SP60)
The determination means 76 acquires the number c of the second areas detected in step SP58. Note that the number of regions c is zero or a natural number. Then, the process shifts to the process of step SP62.

(ステップSP62)
判定手段76は、取得した領域数cだけ、ステップSP64~ステップSP66の処理を繰り返す(ループ処理)。すなわち、判定手段76は、変数kが領域数cとなるまで、変数kを1からインクリメントしながら、ステップSP64~ステップSP66の処理を繰り返す。
(Step SP62)
The determining means 76 repeats the processing of steps SP64 to SP66 by the acquired number of regions c (loop processing). That is, the determination means 76 repeats the processing of steps SP64 to SP66 while incrementing the variable k from 1 until the variable k reaches the number of areas c.

(ステップSP64)
判定手段76は、検出手段74が検出した第二領域のうち一つの第二領域を取得し、当該一つの第二領域が他の組織であると判定する。なお、判定手段76は、当該一つの領域に対応付けられている他の組織(骨又は筋肉)であると判定してもよい。この場合、第二領域同士が重なったときには、領域それぞれに対応付けられている確率の高い方の他の組織であると判定してもよい。例えば、骨である確率(30%)が対応付けられた第二領域と、筋肉である確率(40%)が対応付けられた第二領域とが重なった場合には、判定手段76は、筋肉である確率の方が高いため、当該第二領域が筋肉であると判定してもよい。そして、処理は、ステップSP66の処理に移行する。
(Step SP64)
The determining means 76 acquires one second area out of the second areas detected by the detecting means 74, and determines that the one second area is another tissue. Note that the determining means 76 may determine that it is another tissue (bone or muscle) associated with the one region. In this case, when the second regions overlap each other, it may be determined that the tissue has a higher probability of being associated with each region. For example, when the second region associated with the probability of being bone (30%) overlaps with the second region associated with the probability of being muscle (40%), the determination means 76 Since the probability of being is higher, it may be determined that the second region is a muscle. Then, the process shifts to the process of step SP66.

(ステップSP66)
判定手段76は、変数kが領域数c未満である場合には、処理はステップSP62の処理に戻り、変数iが領域数cである場合にはループ処理を抜け、処理はステップSP68の処理に移行する。
(Step SP66)
If the variable k is less than the number of regions c, the determination means 76 returns to the processing of step SP62, and if the variable i is the number of regions c, exits the loop processing and proceeds to the processing of step SP68. Transition.

(ステップSP68)
判定手段76は、ステップSP54で検出された領域数dを取得する。なお、この領域数dは、ゼロ又は自然数である。そして、処理は、ステップSP70の処理に移行する。
(Step SP68)
The determination means 76 acquires the number of regions d detected in step SP54. Note that the number of regions d is zero or a natural number. Then, the process shifts to the process of step SP70.

(ステップSP70)
判定手段76は、取得した領域数dだけ、ステップSP72~ステップSP88の処理を繰り返す(ループ処理)。すなわち、判定手段76は、変数lが領域数dとなるまで、変数lを1からインクリメントしながら、ステップSP72~ステップSP88の処理を繰り返す。
(Step SP70)
The determining means 76 repeats the processing from step SP72 to step SP88 by the acquired area number d (loop processing). That is, the determination means 76 repeats the processing of steps SP72 to SP88 while incrementing the variable l from 1 until the variable l reaches the number of regions d.

(ステップSP72)
判定手段76は、検出手段74が検出した第一領域のうち一つの第一領域を取得し、当該一つの第一領域が、他の組織と判定された第二領域より下に位置するか否かを判定する。そして、当該判定が肯定判定された場合には処理はステップSP74の処理に移行し、当該判定が否定判定された場合には処理はステップSP78の処理に移行する。
(Step SP72)
The determination means 76 obtains one first region from among the first regions detected by the detection means 74, and determines whether or not the one first region is positioned below the second region determined to be another tissue. determine whether Then, when the determination is affirmative, the process proceeds to step SP74, and when the determination is negative, the process proceeds to step SP78.

(ステップSP74)
判定手段76は、取得した一つの第一領域が腫瘍でないと判定する。そして、処理は、ステップSP76の処理に移行する。
(Step SP74)
The determining means 76 determines that the acquired one first region is not a tumor. Then, the process shifts to the process of step SP76.

(ステップSP76)
出力手段78は、判定結果を出力する。例えば、出力手段78は、リアルタイムに表示装置36に表示される乳房医療画像に反映する。なお、本ステップSP76は、例えば、ステップSP88の処理の後に実行されてもよい。
(Step SP76)
The output means 78 outputs the determination result. For example, the output means 78 reflects breast medical images displayed on the display device 36 in real time. In addition, this step SP76 may be performed after the process of step SP88, for example.

図8は、判定結果を反映した乳房医療画像100の一例を示す図である。なお、図8に示す乳房医療画像100は、本実施形態の説明用に本発明者らが新たに創作したものであり、実際の乳房医療画像とは異なる場合がある。 FIG. 8 is a diagram showing an example of a breast medical image 100 reflecting determination results. Note that the breast medical image 100 shown in FIG. 8 was newly created by the present inventors for explanation of the present embodiment, and may differ from the actual breast medical image.

図8に示すように、出力手段78は、乳房医療画像100において、判定手段76が腫瘍であると判定した領域を囲うように矩形マーク102を表示出力するとともに、その領域が悪性腫瘍である旨を表示出力する。また、出力手段78は、乳房医療画像100において、判定手段76が筋肉であると判定した領域を囲うように矩形マーク104を表示出力するとともに、その領域が筋肉である旨を表示出力する。また、出力手段78は、乳房医療画像100において、判定手段76が骨であると判定した領域を囲うように矩形マーク106を表示出力するとともに、その領域が骨である旨を表示出力する。なお、この表示出力は省略することができる。 As shown in FIG. 8, the output means 78 displays and outputs a rectangular mark 102 so as to enclose the region determined to be a tumor by the determination means 76 in the breast medical image 100, and also displays the indication that the region is a malignant tumor. is displayed. In addition, the output means 78 displays and outputs a rectangular mark 104 so as to enclose the area determined to be muscle by the determination means 76 in the breast medical image 100, and displays and outputs that the area is muscle. In addition, the output means 78 displays and outputs a rectangular mark 106 so as to enclose the area determined to be bone by the determination means 76 in the breast medical image 100, and displays and outputs that the area is bone. Note that this display output can be omitted.

図7に戻って、処理は、ステップSP88の処理に移行する。 Returning to FIG. 7, the process shifts to the process of step SP88.

(ステップSP78)
ステップSP72にて否定判定された場合、判定手段76は、取得した一つの第一領域が他の第一領域と重なるか否かを判定する。そして、当該判定が肯定判定された場合には処理はステップSP82の処理に移行し、当該判定が否定判定された場合には処理はステップSP80の処理に移行する。
(Step SP78)
When a negative determination is made in step SP72, the determining means 76 determines whether or not the acquired one first area overlaps with another first area. Then, when the determination is affirmative, the process proceeds to step SP82, and when the determination is negative, the process proceeds to step SP80.

(ステップSP80)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている腫瘍(良性腫瘍又は悪性腫瘍)と判定する。そして、処理は、ステップSP76の処理に移行する。
(Step SP80)
The determining means 76 determines that one obtained first region is a tumor (benign tumor or malignant tumor) associated with the first region. Then, the process shifts to the process of step SP76.

(ステップSP82)
ステップSP78にて肯定判定された場合、判定手段76は、重なった第一領域それぞれに対応付けられている確率のうち、悪性腫瘍の方が、確率が高いか否かを判定する。例えば、重なった第一領域のうち、一つの第一領域に悪性腫瘍である確率(50%)が対応づけられており、他の第一領域に良性腫瘍である確率(30%)が対応付けられている場合、判定手段76は、悪性腫瘍である確率の方が高いと肯定判定する。そして、当該判定が肯定判定された場合には処理は、ステップSP84の処理に移行し、当該判定が否定判定された場合には処理は、ステップSP86の処理に移行する。
(Step SP82)
If the determination in step SP78 is affirmative, the determining means 76 determines whether or not the malignant tumor has a higher probability among the probabilities associated with the overlapping first regions. For example, among the overlapping first regions, one first region is associated with the probability of being a malignant tumor (50%), and the other first region is associated with the probability of being a benign tumor (30%). If so, the determining means 76 makes an affirmative determination that the probability of being a malignant tumor is higher. Then, when the determination is affirmative, the process proceeds to step SP84, and when the determination is negative, the process proceeds to step SP86.

(ステップSP84)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている悪性腫瘍であると判定する。そして、処理は、ステップSP76の処理に移行する。
(Step SP84)
The determining means 76 determines that one obtained first region is a malignant tumor associated with the first region. Then, the process shifts to the process of step SP76.

(ステップSP86)
判定手段76は、取得した一つの第一領域が、当該第一領域に対応付けられている良性腫瘍であると判定する。そして、処理は、ステップSP76の処理に移行する。
(Step SP86)
The determining means 76 determines that one obtained first region is a benign tumor associated with the first region. Then, the process shifts to the process of step SP76.

(ステップSP88)
判定手段76は、変数lが領域数d未満である場合には、処理はステップSP70の処理に戻り、変数lが領域数dである場合にはループ処理を抜け、図7に示す一連の処理が終了する。
(Step SP88)
If the variable l is less than the number of regions d, the judging means 76 returns to the processing of step SP70. ends.

<効果>
以上、本実施形態では、腫瘍判定プログラム34Aが画像診断補助装置30を、機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段74、当該検出手段74にて検出された複数の領域の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段76、当該判定手段76の判定結果を出力する出力手段78として機能させる。
<effect>
As described above, in the present embodiment, the tumor determination program 34A inputs a breast medical image showing a human breast to the image diagnosis assisting device 30, and inputs a breast medical image of a human breast to a learning device constructed by a learned model in which machine learning has been performed. Detecting means 74 for detecting a first region that is a tumor candidate in the breast medical image and a second region that is a tissue candidate other than the tumor in the breast medical image, and detected by the detecting means 74 Based on the positional relationship of the plurality of regions, it functions as determination means 76 for determining whether or not the first region is a tumor, and output means 78 for outputting the determination result of the determination means 76 .

この構成によれば、検出手段74にて検出された複数の領域の位置関係に基づいて、腫瘍の候補となる第一領域が腫瘍であるか否かを判定するので、位置関係に基づいて判定しない場合に比べて、腫瘍の判定精度を向上することができる。 According to this configuration, it is determined whether or not the first region, which is a candidate for a tumor, is a tumor based on the positional relationship of the plurality of regions detected by the detection means 74. Therefore, determination is made based on the positional relationship. Tumor determination accuracy can be improved as compared to the case where the measurement is not performed.

また、本実施形態では、検出手段74は、第二領域として、骨の候補となる領域と、筋肉の候補となる領域と、を検出する。 Further, in this embodiment, the detecting means 74 detects a bone candidate region and a muscle candidate region as the second regions.

この構成によれば、腫瘍の候補となる第一領域と、骨の候補となる第二領域と、筋肉の候補となる第二領域との位置関係に基づいて、第一領域が腫瘍であるか否かを判定するので、腫瘍の判定精度を一層向上することができる。 According to this configuration, it is possible to determine whether the first region is a tumor based on the positional relationship among the first region that is a candidate for tumor, the second region that is a candidate for bone, and the second region that is a candidate for muscle. Since it is determined whether or not there is a tumor, it is possible to further improve the determination accuracy of the tumor.

また、本実施形態では、検出手段74は、第一領域として、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域と、を検出し、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する。 Further, in this embodiment, the detecting means 74 detects, as the first regions, a region associated with the probability of being a malignant tumor and a region associated with the probability of being a benign tumor, and the determining means 76 determines whether the first region is a benign tumor or a malignant tumor based on the probability associated with the region detected by the detection means 74 when the first region is detected as a tumor judge.

この構成によれば、腫瘍を悪性腫瘍と良性腫瘍に区別して判定することができるので、悪性腫瘍の判定精度を一層向上することができる。 According to this configuration, a tumor can be determined by distinguishing between malignant tumor and benign tumor, so that the determination accuracy of malignant tumor can be further improved.

また、本実施形態では、学習済みモデルは、腫瘍が写った複数の乳房医療画像から機械学習が行われた第一学習済みモデル14Cと、他の組織が写った複数の乳房医療画像から機械学習が行われた第二学習済みモデル14Dとを含み、検出手段74は、乳房医療画像を第一学習済みモデル14Cで構築された学習器に入力することで第一領域を検出し、且つ、乳房医療画像を第二学習済みモデル14Dで構築された学習器に入力することで第二領域を検出する。 Further, in the present embodiment, the trained models are the first trained model 14C machine-learned from a plurality of breast medical images showing tumors, and the machine learning from a plurality of breast medical images showing other tissues. is performed, and the detection means 74 detects the first region by inputting the breast medical image to the learner constructed with the first trained model 14C, and the breast The second region is detected by inputting the medical image to the learner constructed by the second trained model 14D.

この構成によれば、腫瘍が写った複数の乳房医療画像及び他の組織が写った複数の乳房医療画像から機械学習を行って一つの学習済みモデルを生成する場合に比べて、学習装置10のメモリの使用量を低減することができるとともに、学習済みモデルの生成処理の処理速度を向上することができる。また、第一領域と第二領域を、それぞれ専用の学習済みモデルで構築された学習器で検出するので、領域の検出精度を向上することができ、もって、腫瘍の判定精度を一層向上することができる。 According to this configuration, compared to the case where one trained model is generated by performing machine learning from a plurality of breast medical images showing tumors and a plurality of breast medical images showing other tissues, the learning device 10 The amount of memory used can be reduced, and the processing speed of the trained model generation process can be improved. In addition, since the first region and the second region are detected by a learning device built with a dedicated trained model, the region detection accuracy can be improved, thereby further improving the tumor determination accuracy. can be done.

また、本実施形態では、第一領域は、腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域である。 Further, in the present embodiment, the first region is a region associated with a probability that the probability of being a tumor is equal to or higher than the first threshold, and the second region is a region that is associated with a probability of being a tissue other than the tumor, and the probability of being a tissue other than the tumor is the second threshold. This is an area associated with the above probabilities.

この構成によれば、検出手段74は、確率が第一閾値や第二閾値未満の領域を検出しないので、腫瘍の候補となる第一領域の誤検出を抑制することができ、もって、腫瘍の判定精度を一層向上することができる。 According to this configuration, the detecting means 74 does not detect regions whose probabilities are less than the first threshold and the second threshold, so that it is possible to suppress false detection of the first region, which is a candidate for a tumor, thereby preventing tumors from being detected. It is possible to further improve the determination accuracy.

また、本実施形態では、第二閾値は第一閾値よりも低い。 Moreover, in this embodiment, the second threshold is lower than the first threshold.

この構成によれば、他の組織の候補となる領域は腫瘍の候補となる領域に比べて領域を多く検出することで、領域の位置関係の比較を数多くすることができ、結果的に、腫瘍の判定精度を一層向上することができる。 According to this configuration, by detecting more candidate regions for other tissues than regions for tumor candidates, it is possible to compare the positional relationships of the regions more frequently. can be further improved.

また、本実施形態では、学習装置10が、腫瘍が写った複数の第一乳房医療画像と、当該腫瘍以外の他の組織が写った複数の第二乳房医療画像とを取得する画像取得手段62と、ユーザの操作に基づき、前記複数の第一乳房医療画像において腫瘍の位置特定情報を第一教師データとして取得し、且つ、前記複数の第二乳房医療画像において前記他の組織の位置特定情報を教師データとして取得する教師データ取得手段66と、前記複数の第一乳房医療画像及び前記第一教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍の候補となる第一領域を検出するための第一学習済みモデル14Cを生成し、且つ、前記複数の第二乳房医療画像及び前記第二教師データの組を入力して機械学習し、所定の乳房医療画像において腫瘍以外の他の組織の候補となる第二領域を検出するための第二学習済みモデル14Dを生成する学習処理手段68と、備える。 Further, in the present embodiment, the learning device 10 acquires a plurality of first breast medical images showing a tumor and a plurality of second breast medical images showing tissues other than the tumor. and acquiring position specifying information of the tumor in the plurality of first breast medical images as first teacher data based on the user's operation, and position specifying information of the other tissue in the plurality of second breast medical images. as training data, machine learning is performed by inputting a set of the plurality of first breast medical images and the first training data, and the first tumor candidate in a predetermined breast medical image generating a first trained model 14C for detecting a region, and machine learning by inputting the plurality of second breast medical images and the second teacher data set, and performing machine learning to detect areas other than the tumor in a predetermined breast medical image; a learning processing means 68 for generating a second trained model 14D for detecting a second region that is a candidate for another tissue of .

この構成によれば、腫瘍が写った複数の乳房医療画像及び他の組織が写った複数の乳房医療画像から機械学習を行って一つの学習済みモデルを生成する場合に比べて、例えば2クラス分類のよりシンプルな学習済みモデルのみで構成でき、学習済みモデルを組み合わせることで、乳房医療画像においては、判定精度の向上が期待できる。また、学習装置10のメモリの使用量を低減することができるとともに、学習済みモデルの生成処理の処理速度を向上することができる可能性がある。 According to this configuration, compared to the case where machine learning is performed from a plurality of breast medical images showing tumors and a plurality of breast medical images showing other tissues to generate one trained model, for example, two-class classification It can be configured with only a simpler trained model, and by combining trained models, it is expected to improve the judgment accuracy in breast medical images. In addition, it is possible to reduce the amount of memory used in the learning device 10 and improve the processing speed of the process of generating a trained model.

<実施例1>
次に、上記実施形態を適用した実施例1について説明する。
<Example 1>
Next, Example 1 to which the above embodiment is applied will be described.

実施例1では、正常な乳房医療画像141枚、良性腫瘍が写った乳房医療画像77枚、悪性腫瘍が写った113枚の合計331枚の乳房医療画像を学習データ14Bとした。そして、学習装置10は、ユーザの操作に基づき、これらの学習データ14Bを「YOLOv2」と呼ばれる学習器にそれぞれ入力して機械学習を実行し、第一学習済みモデル14Cと、第二学習済みモデル14Dとを生成した。ここで、学習回数は6万回とし、第一領域を検出するための第一閾値は20%とし、第二領域を検出するための第二閾値は10%とした。続いて、正常な乳房医療画像62枚、良性腫瘍が写った乳房医療画像30枚、悪性腫瘍が写った50枚の合計142枚の乳房医療画像を腫瘍判定のためのテストデータとし、これらのテストデータと、第一学習済みモデル14Cと、第二学習済みモデル14Dとを用いて腫瘍判定プログラム34Aを実行し、腫瘍に関する判定結果を得た。 In Example 1, a total of 331 breast medical images including 141 normal breast medical images, 77 breast medical images showing benign tumors, and 113 breast medical images showing malignant tumors were used as learning data 14B. Then, based on the user's operation, the learning device 10 inputs these learning data 14B to a learning device called "YOLOv2", respectively, and executes machine learning to obtain a first trained model 14C and a second trained model 14C. 14D was generated. Here, the number of times of learning was set to 60,000, the first threshold for detecting the first area was set to 20%, and the second threshold for detecting the second area was set to 10%. Subsequently, a total of 142 breast medical images, 62 normal breast medical images, 30 breast medical images showing benign tumors, and 50 breast medical images showing malignant tumors, were used as test data for tumor determination. Using the data, the first trained model 14C, and the second trained model 14D, the tumor determination program 34A was executed to obtain determination results regarding the tumor.

図9は、良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、実際の疾患と、腫瘍判定プログラム34Aの判定結果とを比較した結果を示す表である。 FIG. 9 is a table showing results of comparison between actual diseases and determination results of the tumor determination program 34A when benign tumors and malignant tumors are regarded as "tumors".

図9に示す表から、腫瘍判定プログラム34Aの判定処理による感度は93.8%であり、特異度は95.2%であることが分かった。この結果より、腫瘍判定プログラム34Aによる腫瘍の判定精度は非常に高く、従来に比べて判定精度が向上したことを確認できた。 From the table shown in FIG. 9, it was found that the sensitivity of the judgment processing of the tumor judgment program 34A was 93.8% and the specificity was 95.2%. From this result, it was confirmed that the accuracy of tumor determination by the tumor determination program 34A was extremely high, and that the accuracy of determination was improved as compared with the conventional method.

図10は、良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、実際の疾患と、腫瘍判定プログラム34Aの判定結果とを比較した結果を示す表である。 FIG. 10 is a table showing the results of comparison between the actual disease and the determination result of the tumor determination program 34A when normal without benign tumors and benign tumors are regarded as "normal".

図10に示す表から、腫瘍判定プログラム34Aの判定処理による感度は88.9%であり、特異度は86.9%であることが分かった。この結果より、腫瘍判定プログラム34Aによる腫瘍の判定精度は非常に高く、従来に比べて判定精度が向上したことを確認できた。 From the table shown in FIG. 10, it was found that the sensitivity of the judgment processing of the tumor judgment program 34A was 88.9% and the specificity was 86.9%. From this result, it was confirmed that the accuracy of tumor determination by the tumor determination program 34A was extremely high, and that the accuracy of determination was improved as compared with the conventional method.

<実施例2>
次に、上記実施形態を適用した実施例2について説明する。
<Example 2>
Next, Example 2 to which the above embodiment is applied will be described.

実施例2では、実施例1と同様の方法を実施するとともに、学習回数を1万回から8万回の間で変化させた。 In Example 2, the same method as in Example 1 was performed, and the number of times of learning was varied between 10,000 and 80,000.

図11は、良性腫瘍と悪性腫瘍を「腫瘍」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。 FIG. 11 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when benign tumors and malignant tumors are regarded as “tumors”.

図11に示すように、感度及び特異度が高いという観点から、2万回以上6万回以下であることが好ましく、3万回以上6万回以下であることがより好ましく、感度及び特異度が高く且つバランスが良いという観点から、4万回以上6万回以下であることが更に好ましいことが確認できた。 As shown in FIG. 11, from the viewpoint of high sensitivity and specificity, it is preferably 20,000 times or more and 60,000 times or less, more preferably 30,000 times or more and 60,000 times or less. 40,000 times or more and 60,000 times or less is more preferable from the viewpoint of high resistance and good balance.

また、図12は、良性腫瘍もない正常と良性腫瘍を「正常」とみなした場合において、学習回数による感度と特異度の変化を示すグラフである。 Also, FIG. 12 is a graph showing changes in sensitivity and specificity depending on the number of times of learning when normal without benign tumors and when benign tumors are regarded as "normal".

図12に示すように、感度及び特異度が高いという観点から、2万回以上6万回以下であることが好ましく、3万回以上6万回以下であることがより好ましく、感度及び特異度が高く且つバランスが良いという観点から、4万回以上6万回以下であることが更に好ましいことが確認できた。 As shown in FIG. 12, from the viewpoint of high sensitivity and specificity, it is preferably 20,000 times or more and 60,000 times or less, more preferably 30,000 times or more and 60,000 times or less. 40,000 times or more and 60,000 times or less is more preferable from the viewpoint of high resistance and good balance.

<変形例>
なお、本発明は上記の具体例に限定されるものではない。すなわち、上記の具体例に、当業者が適宜設計変更を加えたものも、本発明の特徴を備えている限り、本発明の範囲に包含される。また、前述した実施形態及び後述する変形例が備える各要素は、技術的に可能な限りにおいて組み合わせることができ、これらを組み合わせたものも本発明の特徴を含む限り本発明の範囲に包含される。
<Modification>
It should be noted that the present invention is not limited to the above specific examples. In other words, the above-described specific examples are also included in the scope of the present invention as long as they have the features of the present invention, as long as they are appropriately modified in design by those skilled in the art. In addition, each element provided in the embodiment described above and the modified example described later can be combined as long as it is technically possible, and the combination thereof is also included in the scope of the present invention as long as it includes the features of the present invention. .

例えば、上記実施形態では、画像診断補助装置30が超音波画像診断補助装置である場合を説明したが、超音波画像診断補助装置に通信ネットワークNT等を介して接続されるサーバ装置やパーソナルコンピュータ等の情報処理装置であってもよい。 For example, in the above-described embodiment, the case where the diagnostic imaging assisting device 30 is an ultrasonic diagnostic imaging assisting device has been described, but a server device, a personal computer, or the like connected to the ultrasonic diagnostic imaging assisting device via a communication network NT or the like may also be used. information processing apparatus.

また、上記実施形態では、画像取得手段62や教師データ取得手段66が学習装置10に設けられる場合を説明したが、学習装置10とは異なる他の情報処理装置に設けられてもよい。 Further, in the above embodiment, the case where the image acquisition unit 62 and the teacher data acquisition unit 66 are provided in the learning device 10 has been described, but they may be provided in another information processing device different from the learning device 10 .

また、上記実施形態では、腫瘍の属性区分が良性又は悪性のうちのいずれかの場合を説明したが、他の分類基準、例えば、BI-RADS(Breast Imaging Reporting And Data System)のガイドラインに基づく区分が用いられてもよい。この場合、検出手段74は、第一領域として、BI-RADSカテゴリーに従って定義される各区分に属する腫瘍である確率が対応付けられた領域を検出し、判定手段76は、第一領域が腫瘍であると検出された場合に、検出手段74にて検出された領域に対応付けられた確率に基づいて、第一領域がどの区分に属する腫瘍であるかを判定する。この構成によれば、BI-RADSカテゴリーに従った属性判定ができるので、腫瘍の判定精度を一層向上することができる。 In addition, in the above embodiment, the case where the attribute classification of the tumor is either benign or malignant has been described, but other classification criteria, for example, classification based on BI-RADS (Breast Imaging Reporting And Data System) guidelines may be used. In this case, the detection means 74 detects, as the first region, a region associated with the probability of being a tumor belonging to each category defined according to the BI-RADS category, and the determination means 76 detects that the first region is a tumor. If it is detected, it is determined which category the first region belongs to, based on the probability associated with the region detected by the detection means 74 . According to this configuration, attribute determination can be performed according to the BI-RADS category, so the accuracy of tumor determination can be further improved.

なお、上記した区分は、例えば、BI-RADS分類のカテゴリー1~5、サブカテゴリー4A/4B/4C、又は、両者を組み合わせたカテゴリーであってもよい。また、カテゴリーが3以下の場合に「0」を、カテゴリーが4以上の場合に「1」をそれぞれ割り当てるなど、学習器の出力ラベルを2値化してもよい。 The above-described classification may be, for example, BI-RADS categories 1 to 5, subcategories 4A/4B/4C, or a combination of both. Also, the output label of the learning device may be binarized, such as assigning "0" when the category is 3 or less, and assigning "1" when the category is 4 or more.

また、上記実施形態では、検出手段74は、乳房医療画像から悪性腫瘍の候補となる領域を検出する場合を説明したが、悪性腫瘍の種類毎に、悪性腫瘍の候補となる領域を検出したり、悪性腫瘍の進行度毎に、悪性腫瘍の候補となる領域を検出したりしてもよい。例えば、検出手段74は、乳房医療画像から、非浸潤がんの候補となる領域や、浸潤がんの候補となる領域、パジェット病の候補となる領域を検出してもよい。また、検出手段74は、ステージ1の悪性腫瘍の候補となる領域や、ステージ2の悪性腫瘍の候補となる領域、ステージ3の悪性腫瘍の候補となる領域、ステージ4の悪性腫瘍の候補となる領域を検出してもよい。これにより、判定手段76は、各領域に対応付けられた確率に基づき、悪性腫瘍の種類や進行度を判定することができる。ここで、判定手段76は、各領域に対応付けられた確率だけでなく、悪性腫瘍の候補となる第一領域と他の組織である第二領域との位置関係に基づいて、第一領域がステージ1の悪性腫瘍であるか否か等を判定すると、腫瘍のステージの判定精度を向上することができる。 In the above embodiment, the detecting means 74 detects a candidate malignant tumor region from a breast medical image. Alternatively, a region that is a candidate for a malignant tumor may be detected for each degree of progression of the malignant tumor. For example, the detection means 74 may detect a non-invasive cancer candidate area, an invasive cancer candidate area, and a Paget's disease candidate area from the breast medical image. Further, the detection means 74 detects a stage 1 malignant tumor candidate area, a stage 2 malignant tumor candidate area, a stage 3 malignant tumor candidate area, and a stage 4 malignant tumor candidate area. Regions may be detected. Thereby, the determining means 76 can determine the type and progress of the malignant tumor based on the probability associated with each region. Here, the determining means 76 determines whether the first region is a Determining whether or not the tumor is stage 1 malignant tumor can improve the accuracy of tumor stage determination.

また、上記実施形態では、出力手段78は、判定手段76の判定結果を出力する場合を説明したが、検出手段74が検出した領域の位置情報や、当該領域に対応付けられている確率や、その確率の種類(悪性腫瘍の確率や良性腫瘍の確率等)を、例えば医師等が判断するためのレポート情報としてレポート画面等に出力してもよい。また、出力手段78は、検出手段74が検出した領域、及び/又は、判定手段76の判定結果に基づき、医師をサポートするためのサポート情報を生成し、ユーザに提案(出力)してもよい。これにより、医師は、診断結果や治療方法を効率的に決定することができる。なお、サポート情報としては、検出手段74が検出した領域、及び/又は、判定手段76の判定結果に応じた、治療内容や方法、治療に適した病院の場所、医師の氏名等が挙げられる。また、出力手段78は、判定手段76の判定結果と合わせて、リアルタイムに、レポート情報やサポート情報を出力してもよい。 In the above embodiment, the output means 78 outputs the judgment result of the judgment means 76, but the position information of the area detected by the detection means 74, the probability associated with the area, The type of the probability (probability of malignant tumor, probability of benign tumor, etc.) may be output to a report screen or the like as report information for a doctor or the like to make a judgment, for example. Further, the output means 78 may generate support information for supporting the doctor based on the region detected by the detection means 74 and/or the determination result of the determination means 76, and may propose (output) it to the user. . This allows doctors to efficiently determine diagnostic results and treatment methods. The support information may include treatment content and methods, locations of hospitals suitable for treatment, names of doctors, etc., according to the area detected by the detection means 74 and/or the determination result of the determination means 76 . In addition, the output means 78 may output report information and support information in real time together with the determination result of the determination means 76 .

図13は、レポート画面110の一例を示す概略図である。 FIG. 13 is a schematic diagram showing an example of the report screen 110. As shown in FIG.

図13に示すように、レポート画面110には、例えば、乳房医療画像100と、検出手段74が検出した第一領域の場所や第一領域に対応付けられた確率、第一領域のサイズ、判定手段76が判定した判定結果等を含むレポート情報114が記述されている。また、レポート画面110には、判定結果や検出手段74が検出した領域の位置情報、当該領域に対応付けられている確率等に基づき生成されたサポート情報116が記述されている。 As shown in FIG. 13, the report screen 110 includes, for example, the breast medical image 100, the location of the first region detected by the detection means 74, the probability associated with the first region, the size of the first region, the determination Report information 114 including the determination results determined by means 76 is described. Further, the report screen 110 describes support information 116 generated based on the determination result, the position information of the area detected by the detection means 74, the probability associated with the area, and the like.

また、本実施形態では、判定手段76が、1枚の乳房医療画像100から第一領域が腫瘍であるか否かを判定する場合を説明したが、複数枚の乳房医療画像100から第一領域が腫瘍であるか否かを最終的に判定してもよい。例えば、5枚の乳房医療画像100のうち、1枚の乳房医療画像100において第一領域が腫瘍であると判定し、残り全ての乳房医療画像100において第一領域が腫瘍でないと判定した場合は、判定手段76は、最終的に第一領域が腫瘍であると判定(確定)してもよい。この場合、出力手段78は、最終的に判定した判定結果のみを出力することが好ましい。 Further, in the present embodiment, the case where the determining means 76 determines whether or not the first region is a tumor from one breast medical image 100 has been described. may be finally determined whether is a tumor. For example, out of five breast medical images 100, if it is determined that the first region is a tumor in one breast medical image 100 and that the first region is not a tumor in all the remaining breast medical images 100, , the determining means 76 may finally determine (determine) that the first region is a tumor. In this case, it is preferable that the output means 78 output only the final judgment result.

また、上記実施形態では、検出手段74が、複数の学習済みモデルを利用して第一領域及び第二領域を検出する場合を説明したが、一つの学習済みモデルを利用して第一領域及び第二領域を検出してもよい。 Further, in the above embodiment, the case where the detection means 74 detects the first region and the second region using a plurality of trained models has been described. A second region may be detected.

<符号の説明>
10…学習装置、24…記憶媒体、30…画像診断補助装置(コンピュータ)、62…画像取得手段、66…教師データ取得手段、68…学習処理手段、72…取得手段、74…検出手段、76…判定手段、78…出力手段
<Description of symbols>
DESCRIPTION OF SYMBOLS 10... Learning apparatus 24... Storage medium 30... Image diagnosis assistance apparatus (computer) 62... Image acquisition means 66... Teacher data acquisition means 68... Learning processing means 72... Acquisition means 74... Detection means 76 ... determination means, 78 ... output means

Claims (9)

コンピュータを、
機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段、
前記検出手段にて検出された前記第一領域と前記第二領域の位置関係又は前記第一領域同士の位置関係に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段、
前記判定手段の判定結果を出力する出力手段、
として機能させ、
前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域であり、
前記第二閾値は前記第一閾値よりも低い、プログラム。
the computer,
By inputting a breast medical image showing a human breast to a learner built with a trained model that has undergone machine learning, a first region that is a candidate for a tumor in the breast medical image and the breast medical image a detection means for detecting a second region that is a candidate for tissue other than a tumor in
determination means for determining whether the first region is a tumor based on the positional relationship between the first region and the second region or the positional relationship between the first regions detected by the detection means;
output means for outputting the determination result of the determination means;
function as
The first region is associated with a probability that the probability of being the tumor is a first threshold or more, and the second region is associated with a probability that the probability of being a tissue other than the tumor is a second threshold or more. is the associated region, and
The program, wherein the second threshold is lower than the first threshold.
前記検出手段は、前記第一領域として、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とを検出し、
前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域が良性腫瘍であるか又は悪性腫瘍であるかを判定する、
請求項1に記載のプログラム。
The detection means detects, as the first region, a region associated with a probability of being a malignant tumor and a region associated with a probability of being a benign tumor,
When the first region is detected as a tumor, the determining means determines whether the first region is a benign tumor based on the probability associated with the region detected by the detecting means, or determine whether it is a malignant tumor,
A program according to claim 1.
前記判定手段は、悪性腫瘍である確率が対応付けられた領域と、良性腫瘍である確率が対応付けられた領域とが重なった場合、確率の高い方の腫瘍であると判定する、
請求項2に記載のプログラム。
When the region associated with the probability of being a malignant tumor and the region associated with the probability of being a benign tumor overlap, the determining means determines that the tumor is the tumor with the higher probability.
3. A program according to claim 2.
前記検出手段は、前記第一領域として、BI-RADS(Breast Imaging Reporting And Data System)カテゴリーに従って定義される各区分に属する腫瘍である確率が対応付けられた領域を検出し、
前記判定手段は、前記第一領域が腫瘍であると検出された場合に、前記検出手段にて検出された領域に対応付けられた確率に基づいて、前記第一領域がどの区分に属する腫瘍であるかを判定する、
請求項1乃至3の何れか1項に記載のプログラム。
The detection means detects, as the first region, a region associated with a probability of being a tumor belonging to each category defined according to the BI-RADS (Breast Imaging Reporting And Data System) category,
When the first region is detected as a tumor, the determination means determines which category the first region belongs to, based on the probability associated with the region detected by the detection means. determine whether there is
A program according to any one of claims 1 to 3.
前記学習済みモデルは、腫瘍が写った複数の乳房医療画像から機械学習が行われた第一学習済みモデルと、前記他の組織が写った複数の乳房医療画像から機械学習が行われた第二学習済みモデルとを含み、
前記検出手段は、前記乳房医療画像を前記第一学習済みモデルで構築された学習器に入力することで前記第一領域を検出し、且つ、前記乳房医療画像を前記第二学習済みモデルで構築された学習器に入力することで前記第二領域を検出する、
請求項1乃至4の何れか1項に記載のプログラム。
The trained model is a first trained model machine-learned from a plurality of breast medical images showing tumors, and a second trained model machine-learned from a plurality of breast medical images showing other tissues including a trained model and
The detection means detects the first region by inputting the breast medical image to a learner constructed by the first trained model, and constructs the breast medical image by the second trained model. Detecting the second region by inputting to the learned learner,
A program according to any one of claims 1 to 4.
前記検出手段は、前記第二領域として、骨の候補となる領域と、筋肉の候補となる領域とを検出する、
請求項1乃至5の何れか1項に記載のプログラム。
The detection means detects, as the second regions, a bone candidate region and a muscle candidate region.
A program according to any one of claims 1 to 5.
前記学習済みモデルの学習回数は、2万回以上6万回以下である、
請求項1乃至6の何れか1項に記載のプログラム。
The number of learning times of the trained model is 20,000 or more and 60,000 or less,
A program according to any one of claims 1 to 6.
前記出力手段は、前記判定手段の判定結果に基づき、医師をサポートするためのサポート情報を出力する、
請求項1乃至7の何れか1項に記載のプログラム。
The output means outputs support information for supporting a doctor based on the determination result of the determination means.
A program according to any one of claims 1 to 7.
機械学習が行われた学習済みモデルで構築された学習器に人体の乳房が写った乳房医療画像を入力することで、当該乳房医療画像において腫瘍の候補となる第一領域と、当該乳房医療画像において腫瘍以外の他の組織の候補となる第二領域と、を検出する検出手段と、
前記検出手段にて検出された複数の領域に基づいて、前記第一領域が腫瘍であるか否かを判定する判定手段と、
前記判定手段の判定結果を出力する出力手段と、
を備え、
前記第一領域は、前記腫瘍である確率が第一閾値以上の確率が対応付けられた領域であり、前記第二領域は、腫瘍以外の他の組織である確率が第二閾値以上の確率が対応付けられた領域であり、
前記第二閾値は前記第一閾値よりも低い、画像診断補助装置。
By inputting a breast medical image showing a human breast to a learner built with a trained model that has undergone machine learning, a first region that is a candidate for a tumor in the breast medical image and the breast medical image a detection means for detecting a second region that is a candidate for tissue other than a tumor in
determination means for determining whether the first region is a tumor based on the plurality of regions detected by the detection means;
an output means for outputting the determination result of the determination means;
with
The first region is associated with a probability that the probability of being the tumor is a first threshold or more, and the second region is associated with a probability that the probability of being a tissue other than the tumor is a second threshold or more. is the associated region, and
The diagnostic imaging assisting apparatus, wherein the second threshold is lower than the first threshold.
JP2021502177A 2019-02-27 2020-02-21 Program and diagnostic imaging aid Active JP7185242B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019034978 2019-02-27
JP2019034978 2019-02-27
PCT/JP2020/007011 WO2020175356A1 (en) 2019-02-27 2020-02-21 Storage medium, image diagnosis assistance device, learning device, and learned model generation method

Publications (2)

Publication Number Publication Date
JPWO2020175356A1 JPWO2020175356A1 (en) 2020-09-03
JP7185242B2 true JP7185242B2 (en) 2022-12-07

Family

ID=72238480

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021502177A Active JP7185242B2 (en) 2019-02-27 2020-02-21 Program and diagnostic imaging aid

Country Status (2)

Country Link
JP (1) JP7185242B2 (en)
WO (1) WO2020175356A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230088538A (en) * 2021-12-10 2023-06-20 동국대학교 산학협력단 Apparatus and method for breast cancer detection based on deep learning

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112634246B (en) * 2020-12-28 2023-09-12 深圳市人工智能与机器人研究院 Oral image recognition method and related equipment
KR102559616B1 (en) * 2021-02-10 2023-07-27 주식회사 빔웍스 Method and system for breast ultrasonic image diagnosis using weakly-supervised deep learning artificial intelligence
JP7703888B2 (en) * 2021-04-26 2025-07-08 オムロン株式会社 DETECTION DEVICE, CONTROL METHOD FOR DETECTION DEVICE, MODEL GENERATION METHOD BY MODEL GENERATION DEVICE THAT GENERATES TRAINED MODEL, INFORMATION PROCESSING PROGRAM, AND RECORDING MEDIUM
JP7701184B2 (en) * 2021-04-27 2025-07-01 株式会社日立製作所 Medical image processing apparatus and medical image processing method
JP7806396B2 (en) * 2021-05-06 2026-01-27 コニカミノルタ株式会社 Ultrasound imaging diagnostic device, classifier change method, and classifier change program
JP7707652B2 (en) * 2021-05-24 2025-07-15 コニカミノルタ株式会社 IMAGE GENERATION DEVICE, IMAGE GENERATION METHOD, AND PROGRAM

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150230773A1 (en) 2014-02-19 2015-08-20 Samsung Electronics Co., Ltd. Apparatus and method for lesion detection
WO2018180386A1 (en) 2017-03-30 2018-10-04 国立研究開発法人産業技術総合研究所 Ultrasound imaging diagnosis assistance method and system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150230773A1 (en) 2014-02-19 2015-08-20 Samsung Electronics Co., Ltd. Apparatus and method for lesion detection
JP2015154918A (en) 2014-02-19 2015-08-27 三星電子株式会社Samsung Electronics Co.,Ltd. Lesion detection apparatus and method
WO2018180386A1 (en) 2017-03-30 2018-10-04 国立研究開発法人産業技術総合研究所 Ultrasound imaging diagnosis assistance method and system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230088538A (en) * 2021-12-10 2023-06-20 동국대학교 산학협력단 Apparatus and method for breast cancer detection based on deep learning
KR102711951B1 (en) 2021-12-10 2024-10-02 동국대학교 산학협력단 Apparatus and method for breast cancer detection based on deep learning

Also Published As

Publication number Publication date
JPWO2020175356A1 (en) 2020-09-03
WO2020175356A1 (en) 2020-09-03

Similar Documents

Publication Publication Date Title
JP7185242B2 (en) Program and diagnostic imaging aid
Baloescu et al. Automated lung ultrasound B-line assessment using a deep learning algorithm
CN104706384B (en) Method and apparatus for obtaining elasticity information about a region of interest using shear waves
US9144407B2 (en) Image processing device and method, and program
US10499881B2 (en) Ultrasound diagnosis apparatus and method of displaying ultrasound image
US11532084B2 (en) Gating machine learning predictions on medical ultrasound images via risk and uncertainty quantification
CN106333700B (en) Medical imaging device and method of operation
US20250022135A1 (en) Method and system for predicting expression of biomarker from medical image
US11564663B2 (en) Ultrasound imaging apparatus and control method thereof
US10290097B2 (en) Medical imaging device and method of operating the same
US12329577B2 (en) Ultrasound imaging
CN111369675B (en) Method and device for three-dimensional visual model reconstruction based on visceral pleura projection of pulmonary nodules
CN112998748B (en) Method and system for automatic strain measurement and strain ratio calculation for ultrasonic elastography
Töger et al. Test–retest repeatability of human speech biomarkers from static and real-time dynamic magnetic resonance imaging
WO2021087687A1 (en) Ultrasonic image analyzing method, ultrasonic imaging system and computer storage medium
Summers et al. Computerized diagnostic assistant for the automatic detection of pneumothorax on ultrasound: a pilot study
US20240320598A1 (en) User performance evaluation and training
Yongping et al. Performance of computer-aided diagnosis in ultrasonography for detection of breast lesions less and more than 2 cm: prospective comparative study
EP4343695A1 (en) Information processing apparatus, information processing method, and information processing program
CN116569278A (en) Disease diagnosis and prognosis
Mora Deep Generative Machine Learning to Create Synthetic 2D Ultrasound Images for Rare Disease Research
US10627803B2 (en) Method and apparatus for producing a model findings object
EP2807977B1 (en) Ultrasound diagnosis method and aparatus using three-dimensional volume data
Mendez Mora Deep Generative Machine Learning to Create Synthetic 2D Ultrasound Images for Rare Disease Research
US20160066891A1 (en) Image representation set

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210824

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210824

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210824

AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220215

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20220218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221116

R150 Certificate of patent or registration of utility model

Ref document number: 7185242

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250