Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7442964B2 - Medical information collection system and medical information collection device - Google Patents
[go: Go Back, main page]

JP7442964B2 - Medical information collection system and medical information collection device - Google Patents

Medical information collection system and medical information collection device Download PDF

Info

Publication number
JP7442964B2
JP7442964B2 JP2018180255A JP2018180255A JP7442964B2 JP 7442964 B2 JP7442964 B2 JP 7442964B2 JP 2018180255 A JP2018180255 A JP 2018180255A JP 2018180255 A JP2018180255 A JP 2018180255A JP 7442964 B2 JP7442964 B2 JP 7442964B2
Authority
JP
Japan
Prior art keywords
information
medical information
data
input
calculation result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018180255A
Other languages
Japanese (ja)
Other versions
JP2020048783A (en
Inventor
春樹 岩井
智生 藤戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2018180255A priority Critical patent/JP7442964B2/en
Publication of JP2020048783A publication Critical patent/JP2020048783A/en
Application granted granted Critical
Publication of JP7442964B2 publication Critical patent/JP7442964B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本発明の実施の形態は、医用情報収集システム(以下、情報収集システムと記載する)及び医用情報収集装置(以下、情報収集装置と記載する)に関する。 Embodiments of the present invention relate to a medical information gathering system (hereinafter referred to as an information gathering system) and a medical information gathering apparatus (hereinafter referred to as an information gathering apparatus) .

機械学習を用いた画像処理技術が知られている。機械学習においては、例えば、多層のニューラルネットワークにより構成される学習済みモデルが用いられる。この技術では、学習済みモデルの精度を上げるために、特徴の異なる様々な画像を含んだ大量の学習用データが求められる。 Image processing techniques using machine learning are known. In machine learning, for example, a trained model configured by a multilayer neural network is used. This technology requires a large amount of training data containing a variety of images with different characteristics in order to improve the accuracy of the trained model.

学習済みモデルの学習の際に、類似度の高い単調な学習用データが多いと、レアケースの画像が入力された場合に、判別の精度が低くなることがある。 When training a trained model, if there is a large amount of monotonous training data with a high degree of similarity, the accuracy of discrimination may decrease when rare-case images are input.

米国公開公報2016/0361025号明細書US Publication No. 2016/0361025 米国特許9208672号明細書US Patent No. 9208672 米国公開公報2017/0177798号明細書US Publication No. 2017/0177798

本発明が解決しようとする課題は、有用な学習用データを収集することである。 The problem to be solved by the present invention is to collect useful learning data.

実施形態の情報収集システムは、第1記憶部と、取得部と、判定部と、第2記憶部とを備える。第1記憶部は、入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する。取得部は、前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する。判定部は、前記取得部が取得した演算結果が、前記第1記憶部が記憶する前記演算結果に関する情報との間で条件を満たすか否かを判定する。第2記憶部は、前記条件を満たすと判定された演算結果に対応する前記医用情報に関する情報を記憶する。 The information collection system of the embodiment includes a first storage section, an acquisition section, a determination section, and a second storage section. The first storage unit includes a first trained model that includes one or more intermediate layers that perform calculation processing on input information, and an output layer that outputs diagnostic results based on the calculation results of the intermediate layers. Information regarding the calculation results output by the intermediate layer is stored. The acquisition unit acquires a calculation result output from the intermediate layer in response to medical information being input to the input layer of the first trained model. The determination unit determines whether the calculation result acquired by the acquisition unit satisfies a condition with information regarding the calculation result stored in the first storage unit. The second storage unit stores information regarding the medical information corresponding to the calculation result determined to satisfy the condition.

図1は、第1の実施形態に係る情報収集システムの構成の一例を示す図である。FIG. 1 is a diagram showing an example of the configuration of an information collection system according to the first embodiment. 図2は、第1の実施形態に係る学習処理の流れを説明するための図である。FIG. 2 is a diagram for explaining the flow of learning processing according to the first embodiment. 図3は、第1の実施形態に係る演算結果の分布の一例を示す図である。FIG. 3 is a diagram illustrating an example of distribution of calculation results according to the first embodiment. 図4は、第1の実施形態に係る活性化関数の一例を示す図である。FIG. 4 is a diagram illustrating an example of an activation function according to the first embodiment. 図5は、第1の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 5 is a diagram illustrating an example of functional blocks of the information collection system according to the first embodiment. 図6は、第1の実施形態に係る学習処理の流れの一例を示す図である。FIG. 6 is a diagram illustrating an example of the flow of learning processing according to the first embodiment. 図7は、第1の実施形態に係る判別処理の流れの一例を示す図である。FIG. 7 is a diagram illustrating an example of the flow of determination processing according to the first embodiment. 図8は、第1の実施形態に係る演算結果情報の一例を示す図である。FIG. 8 is a diagram illustrating an example of calculation result information according to the first embodiment. 図9は、第1の実施形態に係る統計データの一例を示す図である。FIG. 9 is a diagram showing an example of statistical data according to the first embodiment. 図10は、第1の実施形態に係る有用データの一例を示す図である。FIG. 10 is a diagram illustrating an example of useful data according to the first embodiment. 図11は、第1の実施形態に係るモデルデータの一例を示す図である。FIG. 11 is a diagram showing an example of model data according to the first embodiment. 図12は、第1の実施形態に係る情報収集処理の流れの一例を示す図である。FIG. 12 is a diagram illustrating an example of the flow of information collection processing according to the first embodiment. 図13は、第1の実施形態に係る受付画面の一例を示す図である。FIG. 13 is a diagram showing an example of a reception screen according to the first embodiment. 図14は、第1の実施形態に係る取得処理の一例を示すフローチャートである。FIG. 14 is a flowchart illustrating an example of the acquisition process according to the first embodiment. 図15は、第1の実施形態に係る判定処理の一例を示すフローチャートである。FIG. 15 is a flowchart illustrating an example of the determination process according to the first embodiment. 図16は、第1の実施形態に係る受付処理の一例を示すフローチャートである。FIG. 16 is a flowchart illustrating an example of the reception process according to the first embodiment. 図17は、第2の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 17 is a diagram illustrating an example of functional blocks of the information collection system according to the second embodiment. 図18は、第2の実施形態に係る有用データの一例を示す図である。FIG. 18 is a diagram illustrating an example of useful data according to the second embodiment. 図19は、第3の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 19 is a diagram illustrating an example of functional blocks of the information collection system according to the third embodiment. 図20は、第4の実施形態に係る演算結果の分布の一例を示す図である。FIG. 20 is a diagram illustrating an example of distribution of calculation results according to the fourth embodiment.

以下に図面を参照して、情報収集システム及び情報収集装置の実施形態について詳細に説明する。本実施形態に係る情報収集システムは、例えばCAD(Computer Aided Diagnosis)において、学習済みモデルに入力された医用情報のうち、レアケースに該当する情報など、学習済みモデルの精度を向上させるために有用な情報を収集する。本実施形態における学習済みモデルは、例えば、多層のニューラルネットワークにより構成することができる。なお、以下において、学習済みモデルの中間的な演算結果を、「中間演算結果」、又は単に「演算結果」と表記する場合がある。また、以下において、「情報収集」を、単に「収集」と表記する場合がある。 Embodiments of an information collection system and an information collection device will be described in detail below with reference to the drawings. The information collection system according to the present embodiment is useful for improving the accuracy of a trained model, such as information that corresponds to rare cases among medical information input to a trained model, for example in CAD (Computer Aided Diagnosis). Collect information. The learned model in this embodiment can be configured by, for example, a multilayer neural network. Note that in the following, intermediate calculation results of the learned model may be referred to as "intermediate calculation results" or simply "calculation results." Furthermore, hereinafter, "information collection" may be simply referred to as "collection."

例えば、学習済みモデルにレアケースが入力された場合、中間層における演算結果において特異な値が出力されることが多くなり、その結果として判別結果が妥当ではなくなる場合がある。例えば、「肺がん」に判別されるべき入力情報に対して、「肺がん」の確度よりも、「肺結節」の確度が大きくなるような判別結果が出力される場合がある。この場合、出力される判別結果は、「肺がん」であるのか「肺結節」であるのかを医師が診断する上での支援情報として有用ではない場合がある。なお、以下において「レアケース」は、希少な症例に限られず、症例としては希少ではなくとも、学習済みモデルにおいて学習済みの範囲外であるとみなされるパラメータを含む医用情報も含むものとする。 For example, when a rare case is input to a trained model, unusual values are often output in the calculation results in the intermediate layer, and as a result, the discrimination results may become invalid. For example, for input information that should be determined as "lung cancer," a determination result may be output in which the accuracy of "pulmonary nodule" is higher than the accuracy of "lung cancer." In this case, the output discrimination result may not be useful as supporting information for a doctor to diagnose whether it is "lung cancer" or "pulmonary nodule." Note that in the following, the term "rare case" is not limited to rare cases, but also includes medical information that includes parameters that are considered to be outside the learned range in the trained model, even if the case is not rare.

例えば、学習済みモデルの学習の際に、類似度の高い単調な学習用データが多いと、レアケースに該当するデータ等に対する頑健性が損なわれる、例えば学習済みの範囲外であるパラメータを含む画像データに対する判別の精度が低くなることがある。そこで、学習済みモデルの精度を高めるために、レアケースに該当する画像データと正解データとを対応付けた学習用データを揃えることが有用である。 For example, when training a trained model, if there is a lot of monotonous training data with a high degree of similarity, the robustness against data that corresponds to rare cases will be impaired.For example, images that include parameters that are outside the trained range The accuracy of discrimination against data may become low. Therefore, in order to improve the accuracy of the learned model, it is useful to prepare training data in which image data corresponding to rare cases and correct answer data are associated with each other.

なお、例えば、多層のニューラルネットワークにおいて、学習用データのうちどのパラメータが学習済みモデルに反映されたか、すなわち学習済みの範囲がどの程度であるかは明確には特定できない場合が多い。このため、学習済みモデルに入力された医用情報が、当該学習済みモデルにおけるレアケースに該当するか否かを判別することが難しい場合がある。そこで、本実施の形態においては、学習済みモデルにおける中間層が出力する演算結果を用いて、レアケースに該当する医用画像データを収集する構成について説明する。なお、以下において、医用画像データが「レアケースに該当する」と判定されることは、医用情報が「条件を満たす」ことの一例である。 Note that, for example, in a multilayer neural network, it is often not possible to clearly specify which parameters of the learning data are reflected in the trained model, that is, to what extent the trained range is. Therefore, it may be difficult to determine whether medical information input to a trained model corresponds to a rare case in the trained model. Therefore, in this embodiment, a configuration will be described in which medical image data corresponding to rare cases is collected using the calculation results output by the intermediate layer in the trained model. Note that in the following, determining that medical image data "corresponds to a rare case" is an example of medical information "satisfying a condition."

(第1の実施形態)
まず、第1の実施形態について説明する。第1の実施形態では、情報収集装置10を含んだ情報収集システム1を一例として説明する。
(First embodiment)
First, a first embodiment will be described. In the first embodiment, an information collection system 1 including an information collection device 10 will be described as an example.

図1は、第1の実施形態に係る情報収集システムの構成の一例を示す図である。図1に示すように、本実施形態に係る情報収集システム1は、情報収集装置10と、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。 FIG. 1 is a diagram showing an example of the configuration of an information collection system according to the first embodiment. As shown in FIG. 1, the information collection system 1 according to the present embodiment includes an information collection device 10, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40.

図1に示すように、情報収集装置10、医用画像診断装置群20、学習装置30及び端末40は、ネットワークNWを介して相互に通信可能に接続される。なお、図1においては、情報収集装置10、画像保管装置21、学習装置30及び端末40をそれぞれ1台ずつ含む情報収集システム1を示しているが、各装置の台数は任意である。また、情報収集システム1は、病院会計システム(不図示)や電子カルテシステム(不図示)等の病院におけるその他のシステムに含まれる各サーバ装置(不図示)などと直接的、又は、間接的に、相互に通信可能に接続されていてもよい。また、以下において、単一のコンピュータ機器として説明されている装置は、ネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。 As shown in FIG. 1, the information collection device 10, the medical image diagnostic device group 20, the learning device 30, and the terminal 40 are connected to each other so as to be able to communicate with each other via the network NW. Note that although FIG. 1 shows an information collection system 1 that includes one information collection device 10, one image storage device 21, one learning device 30, and one terminal 40, the number of each device is arbitrary. In addition, the information collection system 1 directly or indirectly communicates with each server device (not shown) included in other systems in the hospital such as a hospital accounting system (not shown) and an electronic medical record system (not shown). , may be communicably connected to each other. Further, in the following, a device described as a single computer device may be realized by a group of servers (cloud) connected via a network NW.

情報収集装置10は、学習済みモデルに入力された医用情報のうち、レアケースに該当する情報など、学習済みモデルの精度を向上させるために有用な情報を収集する。情報収集装置10は、例えば、学習装置30による判別処理の際に学習済みモデルの中間層が出力する特徴量などの演算結果を用いて、医用情報が有用な情報であるか否かを判定する。情報収集装置10は、有用な情報であると判定された医用情報に関する情報を随時収集する。また、情報収集装置10は、任意のタイミングで、収集された医用情報に関する情報を出力し、CADの管理者(不図示)から、例えば正解データの入力を受け付ける。例えば、情報収集装置10は、ワークステーション等のコンピュータ機器によって実現される。 The information collecting device 10 collects useful information for improving the accuracy of the learned model, such as information corresponding to rare cases, from among the medical information input to the learned model. The information gathering device 10 determines whether the medical information is useful information, for example, using calculation results such as feature amounts output by the intermediate layer of the trained model during the discrimination processing by the learning device 30. . The information collecting device 10 collects information related to medical information determined to be useful information as needed. Further, the information collecting device 10 outputs information related to the collected medical information at an arbitrary timing, and receives input of, for example, correct data from a CAD administrator (not shown). For example, the information gathering device 10 is realized by computer equipment such as a workstation.

医用画像診断装置群20は、被検体から医用情報を収集する複数の装置(モダリティ)である。なお、画像データとして処理される医用情報については、医用画像データとも記載する。図1に示すように、本実施形態における情報収集システム1は、医用画像診断装置群20として、複数のモダリティXXX、XXY及びYYYを含む。以下において、複数のモダリティXXX、XXY及びYYYを区別せずに表現する場合に、単に「モダリティ」と表現することがある。 The medical image diagnostic device group 20 is a plurality of devices (modalities) that collect medical information from a subject. Note that medical information that is processed as image data is also referred to as medical image data. As shown in FIG. 1, the information collection system 1 in this embodiment includes a plurality of modalities XXX, XXY, and YYY as a medical image diagnostic apparatus group 20. In the following, when a plurality of modalities XXX, XXY, and YYY are expressed without distinction, they may be simply expressed as "modality."

例えば、医用画像診断装置群20は、被検体から医用画像データを収集し、収集した医用画像データを学習装置30に送信する。医用画像診断装置群20の一例としてはX線診断装置があるが、X線CT(Computed Tomography)装置、SPECT(Single Photon Emission Computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT-CT装置、超音波診断装置等の他の医用画像診断装置であってもよい。また、図1では、情報収集システム1は、医用画像診断装置群20として3台のモダリティを有するが、本実施形態にかかる情報収集システム1が有するモダリティの数はこれに限られない。 For example, the medical image diagnostic device group 20 collects medical image data from a subject and transmits the collected medical image data to the learning device 30. An example of the medical image diagnostic device group 20 is an X-ray diagnostic device, and an X-ray CT (Computed Tomography) device, a SPECT (Single Photon Emission Computed Tomography) device, or an integrated SPECT device and an X-ray CT device. Other medical image diagnostic devices such as SPECT-CT devices and ultrasound diagnostic devices may also be used. Further, in FIG. 1, the information collection system 1 has three modalities as the medical image diagnostic apparatus group 20, but the number of modalities that the information collection system 1 according to the present embodiment has is not limited to this.

画像保管装置21は、ネットワークNWを介して医用画像診断装置群20が収集した医用画像データを記憶するデータベース(DB)等である。例えば、図1において、画像保管装置21は、医用画像診断装置群20から医用画像データを取得し、取得した医用画像データを装置内又は装置外に設けられたメモリに記憶させる。また、画像保管装置21は、医用画像データに対応する症例等の情報を含む正解データをさらに記憶してもよい。例えば、画像保管装置21は、サーバ装置等のコンピュータ機器によって実現される。 The image storage device 21 is a database (DB) or the like that stores medical image data collected by the medical image diagnostic device group 20 via the network NW. For example, in FIG. 1, an image storage device 21 acquires medical image data from a group of medical image diagnostic devices 20, and stores the acquired medical image data in a memory provided within or outside the device. Further, the image storage device 21 may further store correct data including information such as a case corresponding to the medical image data. For example, the image storage device 21 is realized by computer equipment such as a server device.

学習装置30は、ネットワークNWを介して医用画像診断装置群20等から医用画像データを取得し、取得した医用画像データを用いた種々の処理を実行する。例えば、学習装置30は、ネットワークNWを介して、医用画像診断装置群20又は画像保管装置21から医用画像データを取得する。学習装置30は、取得した医用画像データを学習済みモデルに入力して判別処理を行い、該当する症例や当該症例に該当する確度を示す信頼度等を出力する。また、学習装置30は、学習済みモデルへの入力情報となる医用画像データと、例えば症例などの正解データとをデータの組として含む学習用データを用いて、学習済みモデルに対する学習を行う。例えば、学習装置30は、ワークステーション等のコンピュータ機器によって実現される。 The learning device 30 acquires medical image data from the medical image diagnostic device group 20 and the like via the network NW, and executes various processes using the acquired medical image data. For example, the learning device 30 acquires medical image data from the medical image diagnostic device group 20 or the image storage device 21 via the network NW. The learning device 30 inputs the acquired medical image data into a learned model, performs a discrimination process, and outputs a corresponding case and a reliability level indicating the probability of corresponding to the case. Further, the learning device 30 performs learning on the learned model using learning data that includes medical image data serving as input information to the learned model and correct answer data such as a case as a data set. For example, the learning device 30 is realized by computer equipment such as a workstation.

本実施形態において、学習装置30は、図1に示すように、例えば、3つの学習済みモデル341、342及び343を有するが、本実施形態にかかる学習済みモデルの数はこれに限られない。また、学習済みモデル341、342及び343は、それぞれ別の学習装置において実装されていてもよい。学習済みモデル341、342及び343は、病院内で用いられているCADにおいてそれぞれ用いられる学習済みモデルである。 In this embodiment, the learning device 30 has, for example, three trained models 341, 342, and 343, as shown in FIG. 1, but the number of trained models according to this embodiment is not limited to this. Furthermore, the trained models 341, 342, and 343 may be implemented in separate learning devices. The trained models 341, 342, and 343 are trained models used in CAD used in hospitals, respectively.

端末40は、例えば病院の診察室等に設置され、医師等のユーザに対して、学習装置30における判別結果を出力する。端末40は、例えば図1に示すようなデスクトップコンピュータであるが、これに限られず、スマートフォンやタブレットのような携帯可能なコンピュータであってもよい。 The terminal 40 is installed, for example, in a consulting room of a hospital, and outputs the determination results of the learning device 30 to a user such as a doctor. The terminal 40 is, for example, a desktop computer as shown in FIG. 1, but is not limited to this, and may be a portable computer such as a smartphone or a tablet.

なお、ネットワークNWを介して接続可能であれば、情報収集装置10、医用画像診断装置群20、画像保管装置21、学習装置30及び端末40が設置される場所は任意である。例えば、学習装置30は、情報収集装置10が設置される病院とは異なる病院に設置されてもよい。即ち、ネットワークNWは、院内で閉じたローカルネットワークにより構成されてもよいし、インターネットを介したネットワークでもよい。 Note that the information gathering device 10, the medical image diagnostic device group 20, the image storage device 21, the learning device 30, and the terminal 40 can be installed at any location as long as they can be connected via the network NW. For example, the learning device 30 may be installed in a hospital different from the hospital where the information gathering device 10 is installed. That is, the network NW may be configured as a local network closed within the hospital, or may be a network via the Internet.

次に、情報収集システム1における情報収集処理について、図2を用いて説明する。図2は、第1の実施形態に係る学習処理の流れを説明するための図である。図2に示すように、学習装置30は、例えば、医用画像診断装置群20から、X線画像データなどの医用画像データ91の入力を受け付ける。学習装置30は、多層のニューラルネットワークにより構成される学習済みモデルに、医用画像データ91を入力する。本実施形態に係る多層のニューラルネットワークは、図2に示すように、入力層(l=1)、中間層(l=2,3,・・・,L-1の計(L-2)層)、出力層(l=L)のL個の層から構成されるものとする。 Next, information collection processing in the information collection system 1 will be explained using FIG. 2. FIG. 2 is a diagram for explaining the flow of learning processing according to the first embodiment. As shown in FIG. 2, the learning device 30 receives input of medical image data 91 such as X-ray image data from the medical image diagnostic device group 20, for example. The learning device 30 inputs medical image data 91 to a learned model configured by a multilayer neural network. As shown in FIG. 2, the multilayer neural network according to this embodiment has a total of (L-2) layers including an input layer (l=1) and an intermediate layer (l=2, 3, ..., L-1). ), and an output layer (l=L).

学習装置30は、例えば入力信号xの各成分xp(p=1,2,・・・,N)として、医用画像データ91を構成する画素の画素値を用いる。入力層に続く中間層(l=2,3,・・・,L-1層)においては、入力された信号に対する演算処理を順次実行することで、(L-2)個の中間層それぞれの出力zを計算することができる。また、各中間層は、それぞれ複数のフィルタを有する。出力層Lは、各層の出力zに対する演算処理を実行することで、出力yn(n=1,2,・・・,M)を計算することができる。出力ynは、例えば各症例に対する信頼度を示す。すなわち、図2に示す例において、出力ynは、M個の症例それぞれに対する信頼度を出力する。なお、各層における演算処理については例えば公知のニューラルネットワークにおける技術を用いることができるため、詳細な説明は省略する。 The learning device 30 uses, for example, the pixel values of pixels forming the medical image data 91 as each component xp (p=1, 2, . . . , N) of the input signal x. In the intermediate layer following the input layer (l = 2, 3, ..., L-1 layer), by sequentially performing arithmetic processing on the input signal, each of the (L-2) intermediate layers The output z can be calculated. Furthermore, each intermediate layer has a plurality of filters. The output layer L can calculate the output yn (n=1, 2, . . . , M) by performing arithmetic processing on the output z of each layer. The output yn indicates, for example, the reliability for each case. That is, in the example shown in FIG. 2, the output yn outputs the reliability for each of M cases. Note that for the arithmetic processing in each layer, for example, a known neural network technique can be used, so a detailed explanation will be omitted.

学習装置30は、出力層Lにおける出力ynに基づく判別結果に関する情報を、端末40に出力する。端末40は、例えば図2に示すように、学習装置30から出力された判別結果に関する情報を出力する。図2に示す一例では、肺結節である確度が60%であり、肺がんである確度が30%であるとする判別結果を出力している。なお、図2においては、端末40が、判別結果に関する情報として、各症例の信頼度を表示する例を示したが、これに限られず、端末40は、単に最も信頼度が高い症例だけを示す等の他の情報を表示してもよい。例えば、端末40は、「肺結節の可能性があります」と表示してもよい。また、例えば、端末40は、医用画像データ91において、60%の確度で肺結節が疑われる領域を表示してもよい。 The learning device 30 outputs information regarding the determination result based on the output yn in the output layer L to the terminal 40. For example, as shown in FIG. 2, the terminal 40 outputs information regarding the determination result output from the learning device 30. In the example shown in FIG. 2, a determination result is output in which the probability of lung nodule is 60% and the probability of lung cancer is 30%. Although FIG. 2 shows an example in which the terminal 40 displays the reliability of each case as information regarding the discrimination result, the terminal 40 is not limited to this, and the terminal 40 simply displays only the case with the highest reliability. You may also display other information such as. For example, the terminal 40 may display "There is a possibility of pulmonary nodule." Further, for example, the terminal 40 may display, in the medical image data 91, an area where a pulmonary nodule is suspected with 60% certainty.

本実施形態において、情報収集装置10は、学習装置30の学習済みモデルの中間層における演算結果等を取得して、レアケースに該当すると認められる医用情報を収集する。本実施形態において、情報収集装置10は、多層のニューラルネットワークにより構成される学習済みモデルの中間層のうち、例えばプーリング層における演算結果を取得するが、これに限られず、畳み込み層、ReLU(Rectified Liner Unit)層等の各層における演算結果を取得してもよい。 In the present embodiment, the information gathering device 10 acquires the calculation results in the intermediate layer of the trained model of the learning device 30, and collects medical information that is recognized to correspond to rare cases. In the present embodiment, the information gathering device 10 acquires calculation results in, for example, a pooling layer among the intermediate layers of a trained model configured by a multilayer neural network, but is not limited to this, and is not limited to this. The calculation results for each layer such as the Linear Unit) layer may also be obtained.

本実施形態において、情報収集装置10は、例えば学習装置30における学習時、及び判別処理の際に、中間層において出力される演算結果を逐次取得し、格納していく。また、情報収集装置10は、例えば新たに取得した演算結果を、記憶されている演算結果と比較することにより、新たに取得した演算結果がレアケースに基づくものであるか否かを判定する。 In this embodiment, the information gathering device 10 sequentially acquires and stores the calculation results output in the intermediate layer, for example, during learning in the learning device 30 and during discrimination processing. Further, the information gathering device 10 determines whether the newly acquired calculation result is based on a rare case, for example, by comparing the newly acquired calculation result with the stored calculation result.

入力画像がレアケースであるか否かの判定基準について、図3は、第1の実施形態に係る演算結果の分布の一例を示す図である。図3において、横軸は演算結果の値を示し、縦軸は当該値に該当する演算結果の出現頻度を示す。例えば、図3に示すように、演算結果の出現頻度が正規分布を取る場合、平均値μから±3σ(以下、標準偏差を「σ」と表記する場合がある)の範囲内にある演算結果97aは、レアケースに基づくものではないと判定される。一方、平均値μから±3σの範囲を逸脱する演算結果97b及び97cは、レアケースに基づくものであると判定される。なお、レアケースに基づく演算結果であるか否かの判定基準は一例であり、その他の基準に基づいて決定してもよい。また、演算結果の出現頻度が正規分布を取らない場合において、同様に平均値μからの距離に基づいて、レアケースに基づく演算結果であるか否かが判定されてもよい。 Regarding the criteria for determining whether an input image is a rare case, FIG. 3 is a diagram showing an example of the distribution of calculation results according to the first embodiment. In FIG. 3, the horizontal axis shows the value of the calculation result, and the vertical axis shows the frequency of appearance of the calculation result corresponding to the value. For example, as shown in Figure 3, when the frequency of occurrence of calculation results is normally distributed, the calculation results are within ±3σ (hereinafter, standard deviation may be referred to as "σ") from the average value μ. 97a is determined not to be based on a rare case. On the other hand, calculation results 97b and 97c that deviate from the range of ±3σ from the average value μ are determined to be based on rare cases. Note that the criterion for determining whether the calculation result is based on a rare case is merely an example, and may be determined based on other criteria. Furthermore, in a case where the frequency of appearance of the calculation result does not follow a normal distribution, it may be similarly determined whether the calculation result is based on a rare case based on the distance from the average value μ.

レアケースに基づく演算結果の特徴は、活性化関数により出力層まで伝播されない場合が多い。図4は、第1の実施形態に係る活性化関数の一例を示す図である。図4は、多層のニューラルネットワークにより構成される学習済みモデルの中間層において用いられることが多い、ReLU関数のグラフの一例を示す。例えば、レアケースに基づく演算結果が、演算結果の平均値μよりも-3σ以上逸脱する場合であっても、図4に示すようなReLU関数に入力されると、出力は0となる。従って、入力層にレアケースが入力された場合の特徴は、出力層における判別結果に反映されない場合が多いので、判別結果に基づいて、入力情報がレアケースであるか否かを判定することは難しい。そこで、本実施形態においては、中間層における演算結果を用いて、入力情報がレアケースであるか否かを判定する構成について説明する。 Features of calculation results based on rare cases are often not propagated to the output layer by the activation function. FIG. 4 is a diagram illustrating an example of an activation function according to the first embodiment. FIG. 4 shows an example of a graph of the ReLU function, which is often used in the middle layer of a trained model configured by a multilayer neural network. For example, even if the calculation result based on a rare case deviates from the average value μ of the calculation result by −3σ or more, the output will be 0 when input to the ReLU function as shown in FIG. Therefore, the characteristics when rare cases are input to the input layer are often not reflected in the discrimination results in the output layer, so it is difficult to determine whether input information is a rare case based on the discrimination results. difficult. Therefore, in this embodiment, a configuration will be described in which it is determined whether or not input information is a rare case using calculation results in the intermediate layer.

このような構成において、本実施形態における情報収集装置10は、学習装置30の学習済みモデルの中間層(l=2,3,・・・,L-1層)から出力される演算結果を取得する。そして、情報収集装置10は、演算結果に基づいて、医用画像データが学習用データとして有用であるか否かを判定し、有用である医用画像データに関する情報を収集する。 In such a configuration, the information collection device 10 in this embodiment acquires the calculation results output from the intermediate layer (l=2, 3, ..., L-1 layer) of the learned model of the learning device 30. do. Then, the information collecting device 10 determines whether the medical image data is useful as learning data based on the calculation result, and collects information regarding the useful medical image data.

図5は、第1の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。図5に示すように、情報収集システム1は、情報収集装置10と、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。図5に示すように、学習装置30は、通信I/F(Interface)31と、入力I/F32と、ディスプレイ33と、記憶回路34と、処理回路35とを有する。なお、学習装置30の処理回路35が有する各機能がクラウド上に実装され、記憶回路34が記憶する内容がクラウド上に記憶されてもよい。 FIG. 5 is a diagram illustrating an example of functional blocks of the information collection system according to the first embodiment. As shown in FIG. 5, the information collection system 1 includes an information collection device 10, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. As shown in FIG. 5, the learning device 30 includes a communication I/F (Interface) 31, an input I/F 32, a display 33, a storage circuit 34, and a processing circuit 35. Note that each function of the processing circuit 35 of the learning device 30 may be implemented on the cloud, and the contents stored in the storage circuit 34 may be stored on the cloud.

通信I/F31は、処理回路35に接続され、ネットワークNWを介して接続された情報収集装置10、医用画像診断装置群20及び画像保管装置21等との間で行われる各種データの伝送及び通信を制御する。例えば、通信I/F31は、ネットワークカードやネットワークアダプタ、NIC(Network Interface Controller)等によって実現される。 The communication I/F 31 is connected to the processing circuit 35 and transmits and communicates various data with the information collection device 10, medical image diagnostic device group 20, image storage device 21, etc. connected via the network NW. control. For example, the communication I/F 31 is realized by a network card, a network adapter, a NIC (Network Interface Controller), or the like.

入力I/F32は、処理回路35に接続され、例えばCADの管理者から受け付けた入力操作を電気信号に変換して処理回路35に出力する。例えば、入力I/F32は、スイッチボタン、マウス、キーボード、タッチパネル等である。 The input I/F 32 is connected to the processing circuit 35 , converts an input operation received from, for example, a CAD administrator into an electrical signal, and outputs the electrical signal to the processing circuit 35 . For example, the input I/F 32 is a switch button, a mouse, a keyboard, a touch panel, or the like.

ディスプレイ33は、処理回路35に接続され、処理回路35から出力される各種情報及び各種画像データを表示する。例えば、ディスプレイ33は、液晶モニタやCRT(Cathode Ray Tube)モニタ、タッチパネル等によって実現される。 The display 33 is connected to the processing circuit 35 and displays various information and various image data output from the processing circuit 35. For example, the display 33 is realized by a liquid crystal monitor, a CRT (cathode ray tube) monitor, a touch panel, or the like.

記憶回路34は、処理回路35に接続され、各種データを記憶する。例えば、記憶回路34は、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路34は、学習装置30に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路34は、図5に示すように、複数の学習済みモデル341、342及び343を記憶する。なお、記憶回路34は、学習装置30とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。 The storage circuit 34 is connected to the processing circuit 35 and stores various data. For example, the storage circuit 34 is realized by a semiconductor memory element such as a RAM (Random Access Memory) or a flash memory, a hard disk, an optical disk, or the like. In this embodiment, the storage circuit 34 stores a program for the circuit included in the learning device 30 to realize its function. Further, for example, the storage circuit 34 stores a plurality of trained models 341, 342, and 343, as shown in FIG. Note that the storage circuit 34 may be realized by a server group (cloud) connected to the learning device 30 via the network NW.

学習済みモデル341、342及び343は、処理回路35により実行される、入力される医用画像データに基づいて症例を判別する判別処理に組み込まれる学習済みモデルである。学習済みモデル341、342及び343は、例えば図2に示すように、入力層(l=1)、中間層(l=2,3,・・・,L-1)、出力層(l=L)のL個の層から構成される多層のニューラルネットワークにより構成される。学習済みモデル341、342及び343は、後に説明するモデル生成機能352により生成される。 The trained models 341, 342, and 343 are trained models that are incorporated into the discrimination process executed by the processing circuit 35 to discriminate cases based on input medical image data. The trained models 341, 342, and 343, for example, as shown in FIG. ) consists of a multilayer neural network consisting of L layers. The learned models 341, 342, and 343 are generated by a model generation function 352, which will be described later.

図5に戻って、処理回路35は、制御機能351と、モデル生成機能352と、判別機能353と、出力機能354とを実行する。ここで、例えば、図5に示す処理回路35の構成要素である制御機能351、モデル生成機能352、判別機能353及び出力機能354の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路34に記録されている。処理回路35は、各プログラムを記憶回路34から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路35は、図5の処理回路35内に示された各機能を有することとなる。 Returning to FIG. 5, the processing circuit 35 executes a control function 351, a model generation function 352, a determination function 353, and an output function 354. Here, for example, each processing function of a control function 351, a model generation function 352, a discrimination function 353, and an output function 354, which are components of the processing circuit 35 shown in FIG. It is recorded in 34. The processing circuit 35 is a processor that reads each program from the storage circuit 34 and implements a function corresponding to each program by executing each read program. In other words, the processing circuit 35 in a state where each program is read has each function shown in the processing circuit 35 of FIG.

なお、制御機能351、モデル生成機能352、判別機能353及び出力機能354の全ての処理機能がコンピュータによって実行可能な1つのプログラムの形態で、記憶回路34に記録されていてもよい。例えば、このようなプログラムは、学習プログラムとも称される。この場合、処理回路35は、学習プログラムを記憶回路34から読み出し、読み出した学習プログラムを実行することで学習プログラムに対応する制御機能351、モデル生成機能352、判別機能353及び出力機能354を実現する。 Note that all the processing functions of the control function 351, model generation function 352, discrimination function 353, and output function 354 may be recorded in the storage circuit 34 in the form of one program executable by a computer. For example, such a program is also referred to as a learning program. In this case, the processing circuit 35 reads the learning program from the storage circuit 34 and implements the control function 351, model generation function 352, discrimination function 353, and output function 354 corresponding to the learning program by executing the read learning program. .

処理回路35における制御機能351は、学習装置30に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能351は、モデル生成処理の開始のトリガに応じて、医用画像データと正解データとの組を含む学習用データを、例えば画像保管装置21から取得し、モデル生成機能352に出力する。また、例えば、制御機能351は、判別処理の開始のトリガに応じて、医用画像データを、例えば画像保管装置21から取得し、判別機能353に出力する。なお、学習処理及び判別処理の開始のトリガは、例えば入力I/F32を介してCADの管理者から操作を受け付けてもよく、通信I/F31を介して、端末40等から受信してもよい。 A control function 351 in the processing circuit 35 controls operations on the learning device 30, various processes related to communication with other devices, and various processes related to data acquisition from other devices. For example, in response to a trigger to start the model generation process, the control function 351 acquires learning data including a set of medical image data and correct data from the image storage device 21, and outputs it to the model generation function 352. . Further, for example, the control function 351 acquires medical image data from, for example, the image storage device 21 and outputs it to the determination function 353 in response to a trigger for starting the determination process. Note that the trigger for starting the learning process and the discrimination process may be received from the terminal 40 or the like via the communication I/F 31, for example, by receiving an operation from the CAD administrator via the input I/F 32. .

モデル生成機能352は、学習済みモデル341、342及び343の生成に関する処理を実行する。例えば、モデル生成機能352は、まず、制御機能351から学習用データの入力を受け付けると、学習用データに基づいて、学習用データに含まれる医用画像データから、症例などの正解データを判別するように、モデルを学習させる。図6は、第1の実施形態に係る学習処理の流れの一例を示す図である。 The model generation function 352 executes processing related to generation of learned models 341, 342, and 343. For example, when the model generation function 352 first receives input of learning data from the control function 351, the model generation function 352 determines correct data such as cases from medical image data included in the learning data based on the learning data. , train the model. FIG. 6 is a diagram illustrating an example of the flow of learning processing according to the first embodiment.

図6に示すように、例えば、モデル生成機能352は、学習用データに含まれる医用画像データを入力側データ、学習用データに含まれる正解データを出力側データとしてモデルのパラメータを調整することにより、症例などを判別する関数を近似した学習済みモデルを生成する。生成する学習済みモデルがニューラルネットワークによる学習済みモデルである場合、調整するパラメータは、例えば、重みとバイアスとのうち少なくとも一方である。そして、モデル生成機能352は、生成した学習済みモデル341、342及び343を記憶回路34に格納する。また、学習済みモデル341、342及び343は、中間層における演算結果を出力する。なお、モデル生成機能352は、新たな学習用データを取得した場合に、学習済みモデル341、342及び343に対して、判別精度を高めるために再学習処理を行ってもよい。 As shown in FIG. 6, for example, the model generation function 352 adjusts model parameters by using medical image data included in the learning data as input data and correct data included in the learning data as output data. , generate a trained model that approximates a function that discriminates cases, etc. When the trained model to be generated is a trained model by a neural network, the parameter to be adjusted is, for example, at least one of weights and biases. The model generation function 352 then stores the generated trained models 341, 342, and 343 in the storage circuit 34. Furthermore, the learned models 341, 342, and 343 output calculation results in the intermediate layer. Note that, when new learning data is acquired, the model generation function 352 may perform relearning processing on the learned models 341, 342, and 343 in order to improve discrimination accuracy.

なお、モデル生成機能352は、学習用データに含まれる医用画像データを入力側データとして用いてもよいし、医用画像データに基づくデータを入力側データとして用いてもよい。例えば、モデル生成機能352は、図6に示すように、医用画像データに対する前処理(例えば、空間フィルタやコンボリューションフィルタを用いた画像処理等)を実行し、前処理後の画像データである入力用データを入力側データとしてもよい。 Note that the model generation function 352 may use medical image data included in the learning data as input side data, or may use data based on medical image data as input side data. For example, as shown in FIG. 6, the model generation function 352 executes preprocessing (for example, image processing using a spatial filter or convolution filter) on medical image data, and inputs the preprocessed image data. data may be used as input data.

なお、画像処理フィルタの種類としては、例えば、移動平均(平滑化)フィルタ、ガウシアンフィルタ、メディアンフィルタ、リカーシブフィルタ、バンドパスフィルタ等が挙げられる。また、画像処理フィルタのパラメータとしては、例えば、各フィルタの強度、移動平均(平滑化)フィルタ、ガウシアンフィルタ及びメディアンフィルタの縦方向及び横方向のサイズ、リカーシブフィルタにおいて使用するフレーム数及び各フレームに対する重み、バンドパスフィルタにおける周波数の設定等が挙げられる。 The types of image processing filters include, for example, a moving average (smoothing) filter, a Gaussian filter, a median filter, a recursive filter, a bandpass filter, and the like. In addition, the parameters of the image processing filter include, for example, the strength of each filter, the vertical and horizontal sizes of the moving average (smoothing) filter, Gaussian filter, and median filter, the number of frames used in the recursive filter, and the Examples include weights, frequency settings in bandpass filters, etc.

判別機能353は、学習済みモデル341、342又は343に基づいて、入力される医用画像データに対する判別処理を実行する。具体的には、判別機能353は、例えば、前処理後の医用画像データを学習済みモデル341、342又は343に入力することにより、症例を判別する判別処理を実行する。そして、判別機能353は、学習済みモデル341、342又は343から出力された判別結果を、出力機能354に出力する。図7は、第1の実施形態に係る判別処理の流れの一例を示す図である。 The discrimination function 353 executes discrimination processing on input medical image data based on the learned model 341, 342, or 343. Specifically, the discrimination function 353 executes discrimination processing for discriminating cases, for example, by inputting preprocessed medical image data into the trained model 341, 342, or 343. Then, the determination function 353 outputs the determination result output from the trained model 341, 342, or 343 to the output function 354. FIG. 7 is a diagram illustrating an example of the flow of determination processing according to the first embodiment.

一例を挙げると、判別機能353は、まず、記憶回路34から学習済みモデル341、342又は343を読み出す。次に、判別機能353は、図7に示すように、医用画像データを学習済みモデル341、342又は343に入力し、症例を判別する判別処理を実行する。学習済みモデル341、342又は343は、入力された医用画像データに基づいて、判別結果を出力する。また、学習済みモデル341、342又は343は、中間層における演算結果を出力する。なお、判別機能353は、図7に示すように、学習処理と同様に、医用画像データに対する前処理を実行し、前処理後の画像データを入力側データとしてもよい。 For example, the determination function 353 first reads out the learned model 341, 342, or 343 from the storage circuit 34. Next, as shown in FIG. 7, the discrimination function 353 inputs the medical image data to the learned model 341, 342, or 343, and executes discrimination processing to discriminate the case. The learned model 341, 342, or 343 outputs a discrimination result based on the input medical image data. Further, the trained model 341, 342, or 343 outputs the calculation result in the intermediate layer. Note that, as shown in FIG. 7, the determination function 353 may perform preprocessing on the medical image data and use the preprocessed image data as input side data, similarly to the learning process.

出力機能354は、判別機能353による判別結果を出力する。具体的には、出力機能354は、学習済みモデル341、342及び343から出力される判別結果を、通信I/F31を介して、図5に示す端末40に出力する。 The output function 354 outputs the determination result by the determination function 353. Specifically, the output function 354 outputs the determination results output from the trained models 341, 342, and 343 to the terminal 40 shown in FIG. 5 via the communication I/F 31.

次に、情報収集装置10は、図5に示すように、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14と、処理回路15とを有する。なお、情報収集装置10の処理回路15が有する各機能がクラウド上に実装され、記憶回路14が記憶する内容がクラウド上に記憶されてもよい。 Next, the information gathering device 10 includes a communication I/F 11, an input I/F 12, a display 13, a storage circuit 14, and a processing circuit 15, as shown in FIG. Note that each function of the processing circuit 15 of the information gathering device 10 may be implemented on the cloud, and the contents stored in the storage circuit 14 may be stored on the cloud.

通信I/F11は、処理回路15に接続され、ネットワークNWを介して接続された学習装置30等との間で行われる各種データの伝送及び通信を制御する。例えば、通信I/F11は、ネットワークカードやネットワークアダプタ等によって実現される。 The communication I/F 11 is connected to the processing circuit 15 and controls transmission of various data and communication with the learning device 30 and the like connected via the network NW. For example, the communication I/F 11 is realized by a network card, a network adapter, or the like.

入力I/F12は、処理回路15に接続され、CADの管理者から受け付けた入力操作を電気信号に変換して処理回路15に出力する。入力I/F12は、例えばCADの管理者によるモードの選択などの入力操作を受け付ける。例えば、入力I/F12は、スイッチボタン、マウス、キーボード、タッチパネル等である。 The input I/F 12 is connected to the processing circuit 15 , converts input operations received from the CAD administrator into electrical signals, and outputs the electrical signals to the processing circuit 15 . The input I/F 12 accepts input operations such as mode selection by a CAD administrator, for example. For example, the input I/F 12 is a switch button, a mouse, a keyboard, a touch panel, or the like.

ディスプレイ13は、処理回路15に接続され、処理回路15から出力される各種情報などを表示する。ディスプレイ13は、例えば、ディスプレイ13は、液晶モニタやCRTモニタ、タッチパネル等によって実現される。 The display 13 is connected to the processing circuit 15 and displays various information outputted from the processing circuit 15. The display 13 is realized by, for example, a liquid crystal monitor, a CRT monitor, a touch panel, or the like.

記憶回路14は、処理回路15に接続され、各種データを記憶する。例えば、記憶回路14は、RAM、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路14は、情報収集装置10に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路14は、図5に示すように、演算結果情報141と、統計データ142と、有用データ143と、モデルデータ144とを記憶する。なお、記憶回路14は、情報収集装置10とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。なお、記憶回路14は、第1記憶部の一例である。 The storage circuit 14 is connected to the processing circuit 15 and stores various data. For example, the memory circuit 14 is realized by a semiconductor memory element such as a RAM or a flash memory, a hard disk, an optical disk, or the like. In this embodiment, the storage circuit 14 stores a program for the circuits included in the information collecting device 10 to realize their functions. Further, for example, the storage circuit 14 stores calculation result information 141, statistical data 142, useful data 143, and model data 144, as shown in FIG. Note that the storage circuit 14 may be realized by a server group (cloud) connected to the information gathering device 10 via the network NW. Note that the memory circuit 14 is an example of a first memory section.

演算結果情報141は、学習装置30における学習処理又は判別処理において、学習済みモデル341の中間層から出力される演算結果を記憶する。例えば、演算結果情報141は、図6に示す学習処理で出力された演算結果や、図7に示す判別処理で出力された演算結果を記憶する。演算結果情報141は、例えば後に説明する制御機能151により格納される。なお、演算結果情報141は、第1記憶部が記憶する情報の一例である。 The calculation result information 141 stores calculation results output from the intermediate layer of the learned model 341 in the learning process or discrimination process in the learning device 30. For example, the calculation result information 141 stores the calculation results output in the learning process shown in FIG. 6 and the calculation results output in the discrimination process shown in FIG. 7. The calculation result information 141 is stored, for example, by a control function 151, which will be described later. Note that the calculation result information 141 is an example of information stored in the first storage unit.

図8は、第1の実施形態に係る演算結果情報の一例を示す図である。例えば、演算結果情報141は、図8に示すように、各学習済みモデルの各中間層に含まれるフィルタごとに一つのテーブルを保持する。図8に示す演算結果情報141は、例えばモデルID「M001」の学習済みモデルの「1」番目の中間層の「2」番目のフィルタから出力される演算結果を記憶する。 FIG. 8 is a diagram illustrating an example of calculation result information according to the first embodiment. For example, as shown in FIG. 8, the calculation result information 141 holds one table for each filter included in each intermediate layer of each trained model. The computation result information 141 shown in FIG. 8 stores, for example, the computation result output from the "2" filter of the "1" intermediate layer of the learned model with the model ID "M001".

例えば、演算結果情報141は、図8に示すように、「取得日時」と、「画像ID」と、「処理区分」と、「演算結果」とを対応付けた情報である。「取得日時」は、当該演算結果が取得された日時を示す。「画像ID」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子(IDentifier)を示す。「処理区分」は、当該演算結果が、「学習時」に出力されたものか、又は「判別時」に出力されたものかを示す。「演算結果」は、中間層の当該層の当該フィルタから出力された演算結果を示す。演算結果情報141に蓄積される演算結果は、例えば後に説明する統計データの生成に用いられる。図8では、例えば、「画像ID:XXX1」を用いた「学習時」において、「2018年6月2日 15:20」に、「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「0.604」であることが記憶されている。また、図8では、例えば、「画像ID:XXY1」に対する「判別時」において、「2018年6月30日 10:00」に、「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「0.317」であることが記憶されている。 For example, as shown in FIG. 8, the calculation result information 141 is information in which "acquisition date and time", "image ID", "processing category", and "calculation result" are associated with each other. “Acquisition date and time” indicates the date and time when the calculation result was acquired. "Image ID" indicates an identifier (IDentifier) that uniquely identifies the input medical image data when the calculation result is output. The "processing classification" indicates whether the calculation result is output during "learning" or "judgment". “Computation result” indicates the computation result output from the filter of the corresponding layer in the intermediate layer. The calculation results accumulated in the calculation result information 141 are used, for example, to generate statistical data to be described later. In Fig. 8, for example, in "during learning" using "image ID: XXX1", the output from the "2" filter of the "1" middle layer is output at "June 2, 2018, 15:20". It is stored that the calculated result is "0.604". In addition, in FIG. 8, for example, in the "discrimination time" for "image ID: XXY1", at "June 30, 2018 10:00", the "2" filter of the "1" middle layer outputs the It is stored that the calculated result is "0.317".

なお、図8に示す項目は一例であり、演算結果情報141は、これ以外に「判別結果」などのその他の情報をさらに記憶してもよく、また図8に示す項目の一部を記憶しないような構成であってもよい。また、演算結果情報141は、一つの層の全てのフィルタにおいて取得された演算結果ごとに一つのテーブルを保持してもよく、全ての演算結果を一つのテーブルで保持してもよい。以下に説明する各テーブルについても同様である。 Note that the items shown in FIG. 8 are just examples, and the calculation result information 141 may further store other information such as "discrimination result", and some of the items shown in FIG. 8 may not be stored. It may be configured like this. Further, the calculation result information 141 may hold one table for each calculation result obtained in all filters of one layer, or may hold all calculation results in one table. The same applies to each table described below.

統計データ142は、演算結果情報141に記憶される演算結果を統計処理して算出される、演算結果の平均値μ、標準偏差σ等の統計データである。統計データ142は、例えば制御機能151により格納される。なお、統計データ142は、第1記憶部が記憶する情報の一例である。 The statistical data 142 is statistical data such as the average value μ and standard deviation σ of the calculation results, which are calculated by statistically processing the calculation results stored in the calculation result information 141. The statistical data 142 is stored, for example, by the control function 151. Note that the statistical data 142 is an example of information stored in the first storage unit.

図9は、第1の実施形態に係る統計データの一例を示す図である。例えば、統計データ142は、図9に示すように、学習済みモデルごとに一つのテーブルを保持する。図9に示す統計データ142は、例えばモデルID「M001」の学習済みモデルの各中間層の各フィルタから出力される演算結果を統計処理して算出したデータを記憶する。 FIG. 9 is a diagram showing an example of statistical data according to the first embodiment. For example, the statistical data 142 holds one table for each trained model, as shown in FIG. The statistical data 142 shown in FIG. 9 stores, for example, data calculated by statistically processing calculation results output from each filter of each intermediate layer of a trained model with model ID "M001".

例えば、統計データ142は、図9に示すように、「中間層No.」及び「フィルタNo.」と、「レコード数」と、「平均値」と、「-3σ」及び「+3σ」とを対応付けた情報である。ここで、図9における「中間層No.」及び「フィルタNo.」は、演算結果が出力される層及びフィルタを一意に識別する情報を示す。「レコード数」は、当該層の当該フィルタから出力され、演算結果情報141に記憶された演算結果の件数を示す。「平均値」は、当該演算結果の平均値μを示す。「-3σ」及び「+3σ」は、当該演算結果の平均値μからそれぞれプラスマイナス3σ離れた値を示す。 For example, as shown in FIG. 9, the statistical data 142 includes "middle layer No.", "filter No.", "number of records", "average value", "-3σ" and "+3σ". This is associated information. Here, "intermediate layer No." and "filter No." in FIG. 9 indicate information that uniquely identifies the layer and filter to which the calculation result is output. “Number of records” indicates the number of calculation results output from the filter in the layer and stored in the calculation result information 141. "Average value" indicates the average value μ of the calculation result. "-3σ" and "+3σ" each indicate a value that is plus or minus 3σ away from the average value μ of the calculation result.

図9において、「平均値」、「-3σ」及び「+3σ」は、例えば、取得された演算結果がレアケースに基づくものであるか否かを判定するための閾値として用いられる。例えば、演算結果が平均値μから「-3σ」又は「+3σ」を逸脱している場合、後に説明する判定機能152において、演算結果はレアケースに基づくものであると判定される。図9において、例えば「1」番目の中間層の「1」番目のフィルタから出力された演算結果が「0.431」よりも小さい場合、又は「0.674」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。同様に、図9において、例えば「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「-0.932」よりも小さい場合、又は「0.450」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。 In FIG. 9, "average value", "-3σ", and "+3σ" are used, for example, as threshold values for determining whether the obtained calculation result is based on a rare case. For example, if the calculation result deviates from the average value μ by "-3σ" or "+3σ", the determination function 152, which will be described later, determines that the calculation result is based on a rare case. In FIG. 9, for example, if the calculation result output from the "1" filter of the "1" hidden layer is smaller than "0.431" or larger than "0.674", the calculation result is due to a rare case. It is determined that it is a thing. Similarly, in FIG. 9, for example, if the calculation result output from the "2" filter of the "1" intermediate layer is smaller than "-0.932" or larger than "0.450", the calculation result is is determined to be due to a rare case.

有用データ143は、有用であると判定された医用画像データに関する情報を記憶する。有用データ143は、例えば判定機能152により格納される。なお、有用データ143は、第2記憶部が記憶する情報の一例である。 The useful data 143 stores information regarding medical image data determined to be useful. The useful data 143 is stored, for example, by the determination function 152. Note that the useful data 143 is an example of information stored in the second storage unit.

図10は、第1の実施形態に係る有用データの一例を示す図である。例えば、有用データ143は、図10に示すように、「画像ID」と、「モダリティID」と、「患者ID」と、「モデルID」と、「正解データ」と、「医師ID」と、「該当理由」とを対応付けた情報である。ここで、図10における「画像ID」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子を示す。「モダリティID」は、医用画像データを収集したモダリティを一意に識別する情報を示す。「患者ID」は、医用画像データが収集された患者等を一意に識別する情報を示す。「モデルID」は、医用画像データの判別処理に用いられた学習済みモデルを一意に識別する情報を示す。「正解データ」及び「医師ID」は、医用画像データに対する正解データと、当該正解データを入力した医師を一意に識別する情報とをそれぞれ示す。「該当理由」は、当該医用画像データが有用な情報に該当すると判定された理由を示す。 FIG. 10 is a diagram illustrating an example of useful data according to the first embodiment. For example, as shown in FIG. 10, the useful data 143 includes "image ID", "modality ID", "patient ID", "model ID", "correct data", "doctor ID", This is information that is associated with the "relevant reason." Here, "image ID" in FIG. 10 indicates an identifier that uniquely identifies the input medical image data when the calculation result is output. "Modality ID" indicates information that uniquely identifies the modality that collected medical image data. “Patient ID” indicates information that uniquely identifies a patient, etc. for whom medical image data has been collected. “Model ID” indicates information that uniquely identifies a trained model used in the discrimination process of medical image data. "Correct data" and "doctor ID" respectively indicate correct data for medical image data and information that uniquely identifies the doctor who input the correct data. The “relevant reason” indicates the reason why the medical image data is determined to correspond to useful information.

例えば、図10に示すテーブルは、モダリティID「XXX」のモダリティにより、患者ID「0001」の患者から収集された、画像ID「XXX1」の医用画像データが、モデルID「M001」の学習済みモデルによる判別処理において、「レアケースの疑い」があると判定されたことを示す。また、図10に示すテーブルは、画像ID「XXX1」の医用画像データに対するモデルID「M001」による判別処理において、学習済みモデル「M001」の第m層の第nフィルタの値が条件を満たすことを示す。なお、図10に示すテーブルは、「レアケースの疑い」があると判定された演算結果に関するレコードのみを含むが、これに限られず、レアケースであると判定されなかった演算結果に関するレコードをさらに含んでもよい。なお、モデルID「M001」、「M002」及び「M003」の各学習済みモデルは、例えば、図1に示す学習済みモデル341、342及び343に、それぞれ対応する。また、モデルID「M003」のレコードに記載された該当理由「対象範囲に該当」については、後に詳しく説明する。 For example, the table shown in FIG. 10 shows that the medical image data with image ID "XXX1" collected from the patient with patient ID "0001" by the modality with modality ID "XXX" is transferred to the trained model with model ID "M001". This indicates that it has been determined in the determination process that there is a "suspected rare case." Furthermore, the table shown in FIG. 10 indicates that the value of the n-th filter of the m-th layer of the learned model "M001" satisfies the condition in the discrimination process using the model ID "M001" for medical image data with the image ID "XXX1". shows. Note that the table shown in FIG. 10 includes only records related to calculation results that were determined to be "suspicious of rare cases," but is not limited to this; it also includes records related to calculation results that were not determined to be rare cases. May include. Note that the trained models with model IDs "M001", "M002", and "M003" correspond to, for example, trained models 341, 342, and 343 shown in FIG. 1, respectively. Further, the corresponding reason "corresponds to the target range" written in the record of the model ID "M003" will be explained in detail later.

モデルデータ144は、例えば医用画像データから学習用モデルを生成するための前処理等に用いられる、学習済みモデルに関する情報を記憶する。図11は、第1の実施形態に係るモデルデータの一例を示す図である。例えば、図11に示すように、モデルデータ144は、「モデルID」と、「入力フォーマット」と、「フィルタ種別」と、「対応モダリティ」とを対応付けた情報である。図11において、「モデルID」は、医用画像データの判別処理に用いる学習済みモデルを一意に識別する情報を示す。「入力フォーマット」は、当該モデルに入力される医用画像データのサイズ等のフォーマットに関する情報を示す。「フィルタ種別」は、医用画像データを当該学習済みモデルに入力する際に、医用画像データに対する前処理に用いるフィルタに関する情報を示す。 The model data 144 stores information regarding a learned model, which is used, for example, in preprocessing to generate a learning model from medical image data. FIG. 11 is a diagram showing an example of model data according to the first embodiment. For example, as shown in FIG. 11, the model data 144 is information that associates "model ID", "input format", "filter type", and "corresponding modality". In FIG. 11, "Model ID" indicates information that uniquely identifies a trained model used for medical image data discrimination processing. "Input format" indicates information regarding the format, such as the size, of medical image data input to the model. “Filter type” indicates information regarding a filter used for preprocessing medical image data when inputting the medical image data to the learned model.

例えば、図11に示すモデルデータ144の第1のレコードは、モデルID「M001」のモデルは、「フォーマットA」及び「フィルタA」を適用し、また全てのモダリティに対応することを示す。また、図11に示すモデルデータ144の第3のレコードは、モデルID「M003」のモデルは、「フォーマットC」及び「フィルタC」を適用し、また「CT」と「MR」のモダリティに対応することを示す。 For example, the first record of the model data 144 shown in FIG. 11 indicates that the model with model ID "M001" applies "format A" and "filter A" and is compatible with all modalities. In addition, the third record of the model data 144 shown in FIG. 11 shows that the model with model ID "M003" applies "Format C" and "Filter C", and also supports the modalities of "CT" and "MR". Show that.

図5に戻って、処理回路15は、制御機能151と、判定機能152と、出力機能153と、受付機能154とを実行する。ここで、制御機能151は、取得部の一例である。判定機能152は、判定部の一例である。出力機能153は、出力部の一例である。また、受付機能154は、受付部の一例である。ここで、例えば、図5に示す処理回路15の構成要素である制御機能151、判定機能152、出力機能153及び受付機能154の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路14に記録されている。処理回路15は、各プログラムを記憶回路14から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路15は、図5の処理回路15内に示された各機能を有することとなる。 Returning to FIG. 5, the processing circuit 15 executes a control function 151, a determination function 152, an output function 153, and a reception function 154. Here, the control function 151 is an example of an acquisition unit. The determination function 152 is an example of a determination unit. The output function 153 is an example of an output unit. Further, the reception function 154 is an example of a reception unit. Here, for example, each processing function of a control function 151, a determination function 152, an output function 153, and a reception function 154, which are components of the processing circuit 15 shown in FIG. recorded in The processing circuit 15 is a processor that reads each program from the storage circuit 14 and executes each read program to implement a function corresponding to each program. In other words, the processing circuit 15 in a state where each program has been read has each function shown in the processing circuit 15 of FIG.

なお、制御機能151、判定機能152、出力機能153及び受付機能154の全ての処理機能がコンピュータによって実行可能な1つのプログラムの形態で、記憶回路14に記録されていてもよい。例えば、このようなプログラムは、情報収集プログラムとも称される。この場合、処理回路15は、情報収集プログラムを記憶回路14から読み出し、読み出した情報収集プログラムを実行することで情報収集プログラムに対応する制御機能151、判定機能152、出力機能153及び受付機能154を実現する。 Note that all the processing functions of the control function 151, determination function 152, output function 153, and reception function 154 may be recorded in the storage circuit 14 in the form of one program executable by a computer. For example, such a program is also referred to as an information gathering program. In this case, the processing circuit 15 reads the information collection program from the storage circuit 14 and executes the read information collection program to perform the control function 151, determination function 152, output function 153, and reception function 154 corresponding to the information collection program. Realize.

処理回路15における制御機能151は、情報収集装置10に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能151は、学習装置に入力された医用画像データに対応する演算結果を、例えば学習装置30から随時取得し、判定機能152に出力する。また、制御機能151は、取得した演算結果に対する統計処理を行い、統計データ142に格納する。 A control function 151 in the processing circuit 15 controls operations on the information gathering device 10, various processes related to communication with other devices, and various processes related to data acquisition from other devices. For example, the control function 151 acquires the calculation result corresponding to the medical image data input to the learning device, for example, from the learning device 30 at any time, and outputs it to the determination function 152. Furthermore, the control function 151 performs statistical processing on the obtained calculation results and stores them in the statistical data 142.

また、制御機能151は、例えば、学習装置に入力された医用画像データが収集された患者等の患者IDを取得する。制御機能151は、例えば、図1に示すように情報収集システム1が複数のモダリティXXX、XXY及びYYYを有する場合、それぞれのモダリティIDをさらに取得する。さらに、制御機能151は、例えば、図1に示すように学習装置30が複数の学習済みモデル341、342及び343を有する場合、それぞれの学習済みモデルのモデルIDをさらに取得する。 Furthermore, the control function 151 obtains, for example, a patient ID of a patient whose medical image data input to the learning device has been collected. For example, when the information collection system 1 has a plurality of modalities XXX, XXY, and YYY as shown in FIG. 1, the control function 151 further acquires each modality ID. Further, the control function 151 further acquires the model ID of each learned model, for example, when the learning device 30 has a plurality of learned models 341, 342, and 343 as shown in FIG.

なお、本実施形態において、情報収集処理は、例えば制御機能151が学習装置30における学習処理の開始又は判別処理の開始を検出した際に随時実行される。 In this embodiment, the information gathering process is executed whenever the control function 151 detects the start of the learning process or the start of the discrimination process in the learning device 30, for example.

判定機能152は、演算結果に伴う医用画像データが有用なものであるか否かを判定する。例えば、判定機能152は、まず、制御機能151から演算結果の出力を受けると、統計データ142を参照し、演算結果が、図9に示すような「-3σ」から「+3σ」までの範囲を逸脱するか否か、すなわち演算結果がレアケースに基づくものであるか否かを判定する。図12は、第1の実施形態に係る情報収集処理の流れの一例を示す図である。判定機能152は、例えば、図12に示すように、制御機能151から出力を受けた中間演算結果と、統計データ142とを比較した結果を、判定結果として図10に示すような有用データ143に格納する。 The determination function 152 determines whether the medical image data accompanying the calculation result is useful. For example, when the determination function 152 first receives the output of the calculation result from the control function 151, it refers to the statistical data 142 and determines whether the calculation result is in the range from "-3σ" to "+3σ" as shown in FIG. It is determined whether there is a deviation, that is, whether the calculation result is based on a rare case. FIG. 12 is a diagram illustrating an example of the flow of information collection processing according to the first embodiment. For example, as shown in FIG. 12, the determination function 152 compares the intermediate calculation result outputted from the control function 151 with the statistical data 142, and converts the results into useful data 143 as shown in FIG. 10 as a determination result. Store.

判定機能152は、有用データとして、例えば、学習済みモデルの中間層から出力された演算結果が「-3σから+3σまで」の範囲を逸脱する、すなわちレアケースに該当する入力データを特定する。しかし、実施の形態はこれに限られず、判定機能152は、例えば、演算結果が「-3σから+3σまで」の範囲内であっても、学習用データを生成する上で有用と思われる場合、演算結果が当該範囲に該当する入力データを、有用データであると判定するような構成であってもよい。例えば、演算結果が「-σから平均値μまで」の範囲に収まる学習用データのサンプル数が少ない場合においては、判定機能152が、演算結果が当該範囲に収まるデータを有用データであると判定するような構成であってもよい。例えば、判定機能152は、図10に示すように、患者ID「0005」の医用画像データについて、第m層の第nフィルタの演算結果が「対象範囲に該当」することを、有用データ143に格納してもよい。 The determination function 152 identifies, as useful data, for example, input data in which the calculation result output from the intermediate layer of the learned model deviates from the range of "from -3σ to +3σ", that is, corresponds to a rare case. However, the embodiment is not limited to this, and the determination function 152 may, for example, determine that even if the calculation result is within the range of "-3σ to +3σ", it is considered useful for generating learning data. The configuration may be such that input data whose calculation result falls within the range is determined to be useful data. For example, when the number of samples of learning data whose calculation result falls within the range "from -σ to the average value μ" is small, the determination function 152 determines that data whose calculation result falls within the range is useful data. It may be configured such that For example, as shown in FIG. 10, the determination function 152 determines in the useful data 143 that the calculation result of the n-th filter of the m-th layer "corresponds to the target range" for the medical image data of the patient ID "0005". May be stored.

出力機能153は、有用情報として収集された医用画像データに関する情報を出力する。出力機能153は、例えば、医用画像データに対して、正解データの入力を受け付けるような画面を、情報収集装置10のディスプレイ13に出力する。なお、以下においては、ディスプレイ13を参照するCADの管理者から正解データを入力する場合について説明するが、画面の出力先はこれに限られない。例えば、CADの管理者が、端末40などのその他のコンピュータを操作する場合、出力機能153は、通信I/F11を通じて、当該コンピュータに画面を出力してもよい。 The output function 153 outputs information regarding the collected medical image data as useful information. The output function 153 outputs, to the display 13 of the information collecting device 10, a screen that accepts input of correct answer data for medical image data, for example. Note that although a case will be described below in which correct answer data is input from a CAD administrator who refers to the display 13, the output destination of the screen is not limited to this. For example, when a CAD administrator operates another computer such as the terminal 40, the output function 153 may output a screen to the computer through the communication I/F 11.

図13は、第1の実施形態に係る受付画面の一例を示す図である。図13に示すように、例えばディスプレイ13に表示される受付画面80は、医用画像データに関する情報が表示される表示領域81と、正解データの入力を受け付ける入力領域82と、決定ボタン83と、医用画像データ91とを含む。表示領域81は、例えば画像IDやモダリティID、患者ID等、医用画像データを特定するための情報を有する。医用画像データ91は、表示領域81に表示された画像IDの医用画像データである。入力領域82は、例えばCADの管理者による、症例等の正解データの入力を受け付ける領域である。なお、正解データは、判断結果の一例である。 FIG. 13 is a diagram showing an example of a reception screen according to the first embodiment. As shown in FIG. 13, for example, a reception screen 80 displayed on the display 13 includes a display area 81 where information regarding medical image data is displayed, an input area 82 that accepts input of correct answer data, a decision button 83, and a medical image data 91. The display area 81 includes information for identifying medical image data, such as an image ID, modality ID, and patient ID. The medical image data 91 is medical image data of the image ID displayed in the display area 81. The input area 82 is an area for accepting input of correct data such as cases by, for example, a CAD administrator. Note that the correct answer data is an example of a determination result.

受付機能154は、受付画面80において入力された正解データに関する情報を受け付ける。受付機能154は、受付画面80において、決定ボタン83が押下されたことを検出すると、入力領域82に入力された症例に関する情報を取得する。受付機能154は、取得した症例に関する情報を正解データとして、受付画面80に表示される画像ID、モダリティID、患者ID及びモデルID等と対応付けて、有用データ143に格納する。また、受付機能154は、症例に関する情報を入力した医師を特定し、医師IDを有用データ143に格納する。 The reception function 154 receives information regarding correct answer data input on the reception screen 80. Upon detecting that the OK button 83 has been pressed on the reception screen 80, the reception function 154 acquires information regarding the case input in the input area 82. The reception function 154 stores the acquired information regarding the case as correct data in the useful data 143 in association with the image ID, modality ID, patient ID, model ID, etc. displayed on the reception screen 80. Further, the reception function 154 identifies the doctor who has inputted the information regarding the case, and stores the doctor ID in the useful data 143.

受付機能154は、例えば、図10に示すように、正解データ「肺がん」及び正解データを入力した医師の医師ID「A001」を、画像ID「XXX1」、モダリティID「XXX」、患者ID「0001」と対応付けて、有用データ143に格納する。 For example, as shown in FIG. 10, the reception function 154 inputs the correct answer data "lung cancer" and the doctor ID "A001" of the doctor who input the correct answer data, the image ID "XXX1", the modality ID "XXX", and the patient ID "0001". ” and stored in the useful data 143.

次に、第1の実施形態に係る情報収集システム1による処理の手順について、図14、図15及び図16を用いて説明する。図14は、第1の実施形態に係る取得処理の一例を示すフローチャートである。ここで、図14におけるステップS101からS120までの各処理は、例えば、処理回路15が制御機能151に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図14に示す取得処理は、例えば学習装置30において学習処理又は判別処理が実行されたことが検出された場合に随時実行される。 Next, the procedure of processing by the information collection system 1 according to the first embodiment will be explained using FIGS. 14, 15, and 16. FIG. 14 is a flowchart illustrating an example of the acquisition process according to the first embodiment. Here, each process from step S101 to S120 in FIG. 14 is realized, for example, by the processing circuit 15 reading out a program corresponding to the control function 151 from the storage circuit 14 and executing it. Note that the acquisition process shown in FIG. 14 is executed at any time, for example, when it is detected that the learning process or the discrimination process has been executed in the learning device 30.

例えば、図14に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、中間層の演算結果を、ネットワークNWを通じて、学習装置30から取得する(ステップS101)。次に、処理回路15は、取得した演算結果を、演算結果情報141に格納する(ステップS102)。 For example, as shown in FIG. 14, in the information collection system 1 according to the present embodiment, the processing circuit 15 first obtains the calculation result of the intermediate layer from the learning device 30 through the network NW (step S101). Next, the processing circuit 15 stores the obtained calculation result in the calculation result information 141 (step S102).

続いて、処理回路15は、演算結果情報141に記憶された演算結果に対する統計処理を行い(S103)、統計データ142に格納する(S104)。 Subsequently, the processing circuit 15 performs statistical processing on the calculation result stored in the calculation result information 141 (S103), and stores it in the statistical data 142 (S104).

次に、処理回路15は、全てのフィルタに対する処理を完了したか否かを判定する(ステップS110)。処理回路15は、全てのフィルタに対する処理を完了していないと判定した場合(ステップS110否定)、ステップS101に移行し、処理を繰り返す。 Next, the processing circuit 15 determines whether processing for all filters has been completed (step S110). When the processing circuit 15 determines that the processing for all filters has not been completed (No in step S110), the processing circuit 15 moves to step S101 and repeats the processing.

一方、処理回路15は、全てのフィルタに対する処理を完了したと判定した場合(ステップS110肯定)、全ての層に対する処理を完了したか否かを判定する(ステップS120)。処理回路15は、全ての層に対する処理を完了していないと判定した場合(ステップS120否定)、ステップS101に移行し、処理を繰り返す。一方、処理回路15は、全ての層に対する処理を完了したと判定した場合(ステップS120肯定)、処理を終了する。 On the other hand, if the processing circuit 15 determines that the processing for all filters has been completed (Yes at step S110), it determines whether the processing for all layers has been completed (step S120). If the processing circuit 15 determines that the processing for all layers has not been completed (No in step S120), the processing circuit 15 moves to step S101 and repeats the processing. On the other hand, if the processing circuit 15 determines that the processing for all layers has been completed (Yes at step S120), the processing circuit 15 ends the processing.

次に、新たに取得した演算結果に基づく判定処理について説明する。図15は、第1の実施形態に係る判定処理の一例を示すフローチャートである。ここで、図15におけるステップS201、S220及びS230は、例えば、処理回路15が制御機能151に対応するプログラムを記憶回路14から読み出して実行することにより実現される。また、ステップS202、S210及びS211は、例えば、処理回路15が判定機能152に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図15に示す判定処理は、例えば図14に示す情報収集処理が実行された場合に、随時実行される。 Next, a determination process based on newly acquired calculation results will be described. FIG. 15 is a flowchart illustrating an example of the determination process according to the first embodiment. Here, steps S201, S220, and S230 in FIG. 15 are realized, for example, by the processing circuit 15 reading out a program corresponding to the control function 151 from the storage circuit 14 and executing it. Further, steps S202, S210, and S211 are realized, for example, by the processing circuit 15 reading out a program corresponding to the determination function 152 from the storage circuit 14 and executing it. Note that the determination process shown in FIG. 15 is executed whenever the information collection process shown in FIG. 14 is executed, for example.

例えば、図14に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、中間層の演算結果を、ネットワークNWを通じて、学習装置30から取得する(ステップS201)。 For example, as shown in FIG. 14, in the information collection system 1 according to the present embodiment, the processing circuit 15 first obtains the calculation result of the intermediate layer from the learning device 30 through the network NW (step S201).

続いて、処理回路25は、取得した演算結果を、統計データ142と比較し(S202)、レアケースと判定されるための条件を満たすか、例えば演算結果が閾値以上であるか否かを判定する(ステップS210)。処理回路15は、判定結果が閾値以上ではないと判定した場合(ステップS210否定)、ステップS220に移行する。 Next, the processing circuit 25 compares the obtained calculation result with the statistical data 142 (S202), and determines whether the conditions for determining a rare case are satisfied, for example, whether the calculation result is equal to or higher than a threshold value. (Step S210). If the processing circuit 15 determines that the determination result is not equal to or greater than the threshold (No in step S210), the processing circuit 15 moves to step S220.

一方、処理回路25は、判定結果が閾値以上であると判定した場合(ステップS210肯定)、判定結果として、例えば、当該演算結果に対応する医用情報を有用データ143に格納する(ステップS211)。その後、ステップS220に移行する。 On the other hand, if the processing circuit 25 determines that the determination result is greater than or equal to the threshold (Yes in step S210), the processing circuit 25 stores, for example, medical information corresponding to the calculation result in the useful data 143 as the determination result (step S211). After that, the process moves to step S220.

次に、処理回路15は、全てのフィルタに対する処理を完了したか否かを判定する(ステップS220)。処理回路15は、全てのフィルタに対する処理を完了していないと判定した場合(ステップS220否定)、ステップS201に移行し、処理を繰り返す。 Next, the processing circuit 15 determines whether processing for all filters has been completed (step S220). If the processing circuit 15 determines that the processing for all filters has not been completed (No in step S220), the processing circuit 15 moves to step S201 and repeats the processing.

一方、処理回路15は、全てのフィルタに対する処理を完了したと判定した場合(ステップS220肯定)、全ての層に対する処理を完了したか否かを判定する(ステップS230)。処理回路15は、全ての層に対する処理を完了していないと判定した場合(ステップS230否定)、ステップS201に移行し、処理を繰り返す。一方、処理回路15は、全ての層に対する処理を完了したと判定した場合(ステップS230肯定)、処理を終了する。 On the other hand, if the processing circuit 15 determines that the processing for all filters has been completed (Yes at step S220), it determines whether the processing for all layers has been completed (step S230). When the processing circuit 15 determines that the processing for all layers has not been completed (No in step S230), the processing circuit 15 moves to step S201 and repeats the processing. On the other hand, if the processing circuit 15 determines that the processing for all layers has been completed (Yes at step S230), the processing circuit 15 ends the processing.

次に、有用データに対して、正解データの入力を受け付ける処理について説明する。図16は、第1の実施形態に係る受付処理の一例を示すフローチャートである。ここで、図16におけるステップS301、S302及びS320は、例えば、処理回路15が出力機能153に対応するプログラムを記憶回路14から読み出して実行することにより実現される。また、ステップS310及びS311は、例えば、処理回路15が受付機能154に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図16に示す受付処理は、例えば受付処理開始のトリガに応じて実行される。受付処理の開始のトリガは、例えば入力I/F12を介してCADの管理者から操作を受け付けてもよく、通信I/F11を介して、端末40等から受信してもよい。 Next, a process for accepting input of correct data for useful data will be described. FIG. 16 is a flowchart illustrating an example of the reception process according to the first embodiment. Here, steps S301, S302, and S320 in FIG. 16 are realized, for example, by the processing circuit 15 reading out a program corresponding to the output function 153 from the storage circuit 14 and executing it. Further, steps S310 and S311 are realized, for example, by the processing circuit 15 reading out a program corresponding to the reception function 154 from the storage circuit 14 and executing it. Note that the reception process shown in FIG. 16 is executed, for example, in response to a trigger for starting the reception process. The trigger for starting the reception process may be, for example, an operation received from a CAD administrator via the input I/F 12, or may be received from the terminal 40 or the like via the communication I/F 11.

例えば、図16に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、有用データ143に記憶されたレコードを取得する(ステップS301)。次に、処理回路15は、取得した有用データに基づいて受付画面を生成し、情報収集装置10のディスプレイ13等に出力する(S302)。そして、処理回路15は、例えば、入力I/F12から正解データの入力を受け付けたか否かを判定する(ステップS310)。処理回路15は、正解データの入力を受け付けていないと判定した場合(ステップS310否定)、正解データの入力を受け付けるまで待機する。 For example, as shown in FIG. 16, in the information collection system 1 according to this embodiment, the processing circuit 15 first acquires a record stored in the useful data 143 (step S301). Next, the processing circuit 15 generates a reception screen based on the acquired useful data and outputs it to the display 13 or the like of the information collection device 10 (S302). Then, the processing circuit 15 determines, for example, whether or not input of correct data has been received from the input I/F 12 (step S310). If the processing circuit 15 determines that input of correct data has not been accepted (No at step S310), it waits until input of correct data is accepted.

処理回路15は、正解データの入力を受け付けたと判定した場合(ステップS310肯定)、正解データを有用データ143に格納する(ステップS311)。その後、ステップS320に移行する。 If the processing circuit 15 determines that input of correct data has been received (Yes at step S310), the processing circuit 15 stores the correct data in the useful data 143 (step S311). After that, the process moves to step S320.

次に、処理回路15は、全ての有用データに対する処理を完了したか否かを判定する(ステップS320)。処理回路15は、全ての有用データに対する処理を完了していないと判定した場合(ステップS320否定)、ステップS301に移行し、処理を繰り返す。一方、処理回路15は、全ての有用データに対する処理を完了したと判定した場合(ステップS320肯定)、処理を終了する。 Next, the processing circuit 15 determines whether processing for all useful data has been completed (step S320). When the processing circuit 15 determines that the processing for all useful data has not been completed (No in step S320), the processing circuit 15 moves to step S301 and repeats the processing. On the other hand, when the processing circuit 15 determines that processing for all useful data has been completed (Yes at step S320), the processing circuit 15 ends the processing.

上述したように、第1の実施形態に係る情報収集システム1は、有用な学習用データを収集することができる。例えば、第1の実施形態に係る情報収集システム1は、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータを収集することができる。 As described above, the information collection system 1 according to the first embodiment can collect useful learning data. For example, the information collection system 1 according to the first embodiment can collect medical image data that corresponds to rare cases or data that a CAD administrator has determined to be useful for learning purposes.

(第2の実施形態)
第1の実施形態においては、学習済みモデルの中間層から取得された演算結果に基づいて、医用情報が条件を満たすか否かを判定する構成について説明したが、学習用データを揃える上で有用なデータを収集する構成はこれに限られない。例えば、レアケースに該当するデータが収集された患者等から、その他の医用画像データが収集される場合、当該データそのものがレアケースに該当しない場合であっても、レアケースに該当するデータの正解データを特定する上で有用となる場合がある。なお、本実施形態において、「患者等」は、被検体の一例である。
(Second embodiment)
In the first embodiment, a configuration was described in which it is determined whether medical information satisfies the conditions based on the calculation results obtained from the intermediate layer of the trained model, but this is useful when preparing training data. The configuration for collecting such data is not limited to this. For example, if other medical image data is collected from a patient, etc. from whom data that falls under a rare case has been collected, even if the data itself does not fall under a rare case, the correct answer to the data that falls under a rare case May be useful in identifying data. Note that in this embodiment, "patient etc." is an example of a subject.

そこで、本実施形態においては、医用画像データが収集された患者等を特定することにより、有用な情報を収集する構成について説明する。図17は、第2の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。なお、以下の実施の形態において、先に説明した図面に示す部位と同一の部位には同一の符号を付し、重複する説明は省略する。 Therefore, in this embodiment, a configuration will be described in which useful information is collected by specifying a patient or the like whose medical image data has been collected. FIG. 17 is a diagram illustrating an example of functional blocks of the information collection system according to the second embodiment. In the following embodiments, the same parts as those shown in the drawings described above are denoted by the same reference numerals, and redundant explanation will be omitted.

図17に示すように、情報収集システム1aは、情報収集装置10aと、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。情報収集装置10aは、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14aと、処理回路15aとを有する。 As shown in FIG. 17, the information collection system 1a includes an information collection device 10a, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. The information gathering device 10a includes a communication I/F 11, an input I/F 12, a display 13, a storage circuit 14a, and a processing circuit 15a.

本実施形態では、記憶回路14aは、図17に示すように、演算結果情報141と、統計データ142と、有用データ143aと、モデルデータ144とを記憶する。本実施形態における有用データ143aは、図10に示すような「レアケースの疑い」がある医用画像データ、及び「対象範囲に該当」する医用画像データに関する情報に加え、さらに、これらの医用画像データと「患者ID」が同一である医用画像データに関する情報を記憶する。 In this embodiment, the storage circuit 14a stores calculation result information 141, statistical data 142, useful data 143a, and model data 144, as shown in FIG. The useful data 143a in this embodiment includes information on medical image data that is "suspected to be a rare case" and medical image data that "falls within the target range" as shown in FIG. Information regarding medical image data having the same "patient ID" is stored.

図18は、第2の実施形態に係る有用データの一例を示す図である。図18に示すように、有用データ143aは、第1のレコードの患者ID「0001」と、患者IDが同一である第4のレコードを記憶する。この場合において、有用データ143aは、第4のレコードの該当理由が「患者一致」であることを記憶する。 FIG. 18 is a diagram illustrating an example of useful data according to the second embodiment. As shown in FIG. 18, the useful data 143a stores the patient ID "0001" of the first record and a fourth record having the same patient ID. In this case, the useful data 143a stores that the corresponding reason for the fourth record is "patient match."

図17に戻って、処理回路15は、制御機能151と、判定機能152と、出力機能153と、受付機能154と、収集機能155とを実行する。ここで、収集機能155は、収集部の一例である。 Returning to FIG. 17, the processing circuit 15 executes a control function 151, a determination function 152, an output function 153, a reception function 154, and a collection function 155. Here, the collection function 155 is an example of a collection unit.

処理回路15における収集機能155は、医用画像データを収集する。例えば、収集機能155は、医用画像診断装置群20又は画像保管装置21から、医用画像データを取得する。また、収集機能155は、学習装置30から、学習済みモデル341、342又は343の入力層に入力された医用画像データを収集する。その際、収集機能155は、例えば、当該医用画像データの画像ID及び当該医用画像データが収集された患者の患者ID、並びに当該医用画像データを収集したモダリティのモダリティIDを合わせて取得する。また、収集機能155は、医用画像データが入力された学習済みモデルのモデルIDをさらに取得してもよい。 A collection function 155 in the processing circuit 15 collects medical image data. For example, the collection function 155 acquires medical image data from the medical image diagnostic device group 20 or the image storage device 21 . Furthermore, the collection function 155 collects medical image data input from the learning device 30 into the input layer of the learned model 341 , 342 , or 343 . At this time, the collection function 155 acquires, for example, the image ID of the medical image data, the patient ID of the patient from whom the medical image data was collected, and the modality ID of the modality that collected the medical image data. Additionally, the collection function 155 may further acquire the model ID of the trained model into which the medical image data has been input.

また、収集機能155は、例えば、収集した医用画像データの患者IDと合致する患者IDが、有用データ143aに記憶されているか否かを判定する。収集機能155は、収集した医用画像データに対応する患者IDと合致する患者IDが、有用データ143aに記憶されていると判定した場合、当該患者IDに対応する医用画像データに関する情報を、有用データ143aに対応づけて格納する。 The collection function 155 also determines, for example, whether a patient ID that matches the patient ID of the collected medical image data is stored in the useful data 143a. When the collection function 155 determines that a patient ID that matches the patient ID corresponding to the collected medical image data is stored in the useful data 143a, the collection function 155 stores information regarding the medical image data corresponding to the patient ID as the useful data. 143a.

例えば、収集機能155は、患者ID「0001」、モダリティID「YYY」、モデルID「M003」の医用画像データを収集した場合、合致する患者ID「0001」が図18に示す有用データ143aの第1のレコードに記憶されていると判定する。この場合、収集機能155は、図18に示すように、有用データ143aの第4のレコードに、収集した医用画像データに関する情報を格納する。 For example, when the collection function 155 collects medical image data with a patient ID "0001", a modality ID "YYY", and a model ID "M003", the matching patient ID "0001" is the first item in the useful data 143a shown in FIG. It is determined that the data is stored in the first record. In this case, the collection function 155 stores information regarding the collected medical image data in the fourth record of the useful data 143a, as shown in FIG.

なお、本実施形態において、収集機能155による医用画像の収集処理は、例えば制御機能151が情報収集処理を実行した際に随時実行される。 In this embodiment, the medical image collection process by the collection function 155 is executed whenever the control function 151 executes the information collection process, for example.

上述したように、第2の実施形態に係る情報収集システム1は、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータ等の有用なデータに加えて、当該データと同一の被検体から収集された医用画像データを収集することができる。これにより、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータ等における症例の特定を支援することができる。 As described above, the information collection system 1 according to the second embodiment collects useful data such as medical image data that corresponds to rare cases and data that the CAD administrator has determined to be useful for learning purposes. Medical image data collected from the same subject as the data can be collected. This makes it possible to support the identification of cases in medical image data that corresponds to rare cases, data that the CAD administrator has determined to be useful for learning, and the like.

なお、本実施形態における収集機能155は、例えば、患者IDが合致する医用画像データに関する情報を有用データ143aに格納する際に、当該患者IDに対応するデータを匿名化してもよい。収集機能155は、例えば、有用データ143aに医用画像データに関する情報を登録する際、患者IDをランダムな文字列に置き換えて、患者を識別できないようにしてもよい。また、収集機能155は、例えば、当該医用画像データに対応する患者IDに加えて、症例等が合致する他の医用画像データに対応する「k個」の患者IDも同様の文字列に置き換えることにより、「k-匿名化」を実現してもよい。 Note that the collection function 155 in this embodiment may, for example, anonymize the data corresponding to the patient ID when storing information regarding medical image data matching the patient ID in the useful data 143a. For example, when registering information regarding medical image data in the useful data 143a, the collection function 155 may replace the patient ID with a random character string so that the patient cannot be identified. In addition, the collection function 155 may, for example, replace the "k" patient IDs corresponding to other medical image data matching the case etc. with the same character string in addition to the patient ID corresponding to the medical image data concerned. "k-anonymization" may be realized by this.

(第3の実施形態)
上述した第1の実施形態では、判定機能152が、統計データ142を用いて演算結果を収集するか否かを判定する構成について説明した。これに対し、第3の実施形態では、判定機能が、学習済みモデルを用いて演算結果を判定する場合について説明する。
(Third embodiment)
In the first embodiment described above, a configuration has been described in which the determination function 152 determines whether or not to collect calculation results using the statistical data 142. On the other hand, in the third embodiment, a case will be described in which the determination function determines a calculation result using a trained model.

図19は、第3の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。図19に示すように、情報収集システム1bは、情報収集装置10bと、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。情報収集装置10bは、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14bと、処理回路15bとを有する。 FIG. 19 is a diagram illustrating an example of functional blocks of the information collection system according to the third embodiment. As shown in FIG. 19, the information collection system 1b includes an information collection device 10b, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. The information gathering device 10b includes a communication I/F 11, an input I/F 12, a display 13, a storage circuit 14b, and a processing circuit 15b.

例えば、記憶回路14bは、図19に示すように、演算結果情報141と、統計データ142と、有用データ143と、モデルデータ144とに加えて、学習済みモデル145をさらに記憶する。学習済みモデル145は、処理回路15bにより実行される、入力される演算結果に基づいて、演算結果に対応する医用画像データが有用であるか否かを出力する判別処理に組み込まれる学習済みモデルである。学習済みモデル145は、例えば図5に示す学習済みモデル341、342及び343と同様に、入力層、複数の中間層及び出力層から構成される多層のニューラルネットワークにより構成される。学習済みモデル341は、例えば後に説明するモデル生成機能156により生成される。 For example, as shown in FIG. 19, the storage circuit 14b further stores a learned model 145 in addition to calculation result information 141, statistical data 142, useful data 143, and model data 144. The trained model 145 is a trained model that is incorporated into a determination process executed by the processing circuit 15b that outputs whether or not medical image data corresponding to the calculation result is useful based on the input calculation result. be. The trained model 145 is configured by a multilayer neural network including an input layer, a plurality of intermediate layers, and an output layer, similar to the trained models 341, 342, and 343 shown in FIG. 5, for example. The trained model 341 is generated, for example, by the model generation function 156 described later.

また、処理回路15bは、制御機能151と、判定機能152bと、出力機能153と、受付機能154と、モデル生成機能156とを実行する。判定機能152bは、学習済みモデル145に基づいて、入力される演算結果に対する判別処理を実行する。具体的には、判定機能152bは、演算結果を学習済みモデル145に入力することにより、演算結果に対応する医用画像データが有用であるか否かを判別する判別処理を実行する。そして、判定機能152bは、学習済みモデル145から出力された判別結果を、出力機能153に出力する。 Further, the processing circuit 15b executes a control function 151, a determination function 152b, an output function 153, a reception function 154, and a model generation function 156. The determination function 152b executes a determination process on the input calculation result based on the trained model 145. Specifically, the determination function 152b inputs the calculation result to the learned model 145, thereby executing a determination process to determine whether or not the medical image data corresponding to the calculation result is useful. Then, the determination function 152b outputs the determination result output from the learned model 145 to the output function 153.

モデル生成機能156は、学習済みモデル145の生成に関する処理を実行する。例えば、モデル生成機能156は、まず、制御機能151から、入力データである演算結果と、正解データである有用か否かを示す情報との組を含む学習用データの入力を受け付ける。モデル生成機能156は、学習用データに基づいて、学習用データに含まれる演算結果から、有用か否かを示す情報などの正解データを判別するように、モデルを学習させる。 The model generation function 156 executes processing related to generation of the trained model 145. For example, the model generation function 156 first receives input from the control function 151 of learning data including a set of a calculation result, which is input data, and information indicating whether or not the data is useful, which is correct data. The model generation function 156 causes the model to learn based on the learning data so as to determine correct data such as information indicating whether it is useful or not from the calculation results included in the learning data.

以上、第3の実施形態に係る情報収集装置10bの構成の一例について説明した。かかる構成の下、情報収集装置10bは、演算結果に基づき、医用画像データが有用データであるか否かを、学習済みモデルに基づいて判別することができる。 An example of the configuration of the information collection device 10b according to the third embodiment has been described above. With this configuration, the information collecting device 10b can determine whether medical image data is useful data based on the learned model based on the calculation result.

(第4の実施形態)
上述した第1の実施形態では、統計データとして、演算結果の平均値μと標準偏差σとを用いる構成について説明した。これに対し、第4の実施形態では、統計データとして、第1の演算結果と第2の演算結果との関係を用いる場合について説明する。図20は、第4の実施形態に係る演算結果の分布の一例を示す図である。
(Fourth embodiment)
In the first embodiment described above, a configuration is described in which the average value μ and standard deviation σ of the calculation results are used as statistical data. In contrast, in the fourth embodiment, a case will be described in which the relationship between the first calculation result and the second calculation result is used as the statistical data. FIG. 20 is a diagram illustrating an example of distribution of calculation results according to the fourth embodiment.

図20は、第1の値である演算結果1と、第2の値である演算結果2との相関分布を示す。図20に示すように、演算結果1と演算結果2との組の多くは、範囲98に沿って分布する。この場合において、範囲98に含まれる演算結果1と演算結果2との組99aは、レアケースに基づく演算結果であるとは判定されない。一方、範囲98を逸脱する演算結果1と演算結果2との組99b及び99cについては、レアケースに基づく演算結果であるとは判定される。 FIG. 20 shows the correlation distribution between calculation result 1, which is the first value, and calculation result 2, which is the second value. As shown in FIG. 20, most of the pairs of calculation results 1 and 2 are distributed along the range 98. In this case, the set 99a of calculation results 1 and 2 included in the range 98 is not determined to be a calculation result based on a rare case. On the other hand, pairs 99b and 99c of calculation results 1 and 2 that deviate from the range 98 are determined to be calculation results based on rare cases.

以上、第4の実施形態に係る構成において、情報収集装置は、学習済みモデルを用いた判別結果の妥当性を、複数の演算結果の関係に基づいて判別することができる。なお、図20においては、2つの演算結果の関係に基づいてレアケースであるか否かを判定する構成について説明したが、これに限られず、3つ以上の演算結果の関係に基づいて判定するような構成であってもよい。 As described above, in the configuration according to the fourth embodiment, the information gathering device can determine the validity of the determination result using the learned model based on the relationship between the plurality of calculation results. Although FIG. 20 describes a configuration in which it is determined whether or not it is a rare case based on the relationship between two calculation results, the present invention is not limited to this, and the determination is made based on the relationship between three or more calculation results. It may be configured like this.

以上説明した少なくとも一つの実施形態によれば、有用な学習用データを収集することができる。 According to at least one embodiment described above, useful learning data can be collected.

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。 Although several embodiments of the invention have been described, these embodiments are presented by way of example and are not intended to limit the scope of the invention. These embodiments can be implemented in various other forms, and various omissions, substitutions, and changes can be made without departing from the gist of the invention. These embodiments and their modifications are included within the scope and gist of the invention as well as within the scope of the invention described in the claims and its equivalents.

例えば、医用情報として医用画像データを収集する構成について説明したが、これに限られず、心電図や音声データ等の画像以外の医用情報を収集するような構成であってもよい。また、学習装置30が複数の学習済みモデル341、342及び343を有する構成について説明したが、学習装置30が単一の学習済みモデル341のみを有するような構成であってもよい。 For example, although a configuration has been described in which medical image data is collected as medical information, the present invention is not limited to this, and may be a configuration that collects medical information other than images such as an electrocardiogram or audio data. Furthermore, although a configuration in which the learning device 30 has a plurality of trained models 341, 342, and 343 has been described, a configuration in which the learning device 30 has only a single trained model 341 may be used.

また、受付機能154は、このような有用データであるか否かを判定する条件、例えば「-σから平均値μまで」等の条件の入力を、ユーザからさらに受け付けてもよい。この場合において、判定機能152は、入力された条件を用いて、演算結果を判定してもよい。 Further, the reception function 154 may further receive input from the user of a condition for determining whether or not the data is useful data, such as a condition such as "from -σ to the average value μ". In this case, the determination function 152 may determine the calculation result using the input conditions.

また、受付機能154は、例えば、正解データを登録した医師を特定する医師IDを、さらに有用データ143に記憶してもよい。例えば、複数の医師が、同一の医用画像データに対する正解データとして、異なる症例を入力した場合、受付機能154は、最も入力した医師の数が多い症例を、正解データとして、有用データ143に格納してもよい。また、受付機能154は、予め医師の評価を定めておき、最も評価が高い医師が入力した症例を正解データとして、有用データ143に格納してもよい。 Further, the reception function 154 may further store in the useful data 143, for example, a doctor ID that identifies the doctor who has registered the correct answer data. For example, if multiple doctors input different cases as correct answer data for the same medical image data, the reception function 154 stores the case input by the largest number of doctors in the useful data 143 as correct answer data. It's okay. Further, the reception function 154 may determine the doctor's evaluation in advance, and store the case input by the doctor with the highest evaluation in the useful data 143 as correct data.

上述した各実施形態の説明で用いた「プロセッサ」という文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。ここで、メモリにプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むように構成しても構わない。この場合には、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて一つのプロセッサとして構成され、その機能を実現するようにしてもよい。 The term "processor" used in the description of each embodiment above refers to, for example, a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), an Application Specific Integrated Circuit (ASIC), a programmable Refers to circuits such as logic devices (e.g., Simple Programmable Logic Device (SPLD), Complex Programmable Logic Device (CPLD), and Field Programmable Gate Array (FPGA)). do. Here, instead of storing the program in the memory, the program may be directly incorporated into the circuit of the processor. In this case, the processor realizes its functions by reading and executing a program built into the circuit. Furthermore, each processor of this embodiment is not limited to being configured as a single circuit for each processor, but may also be configured as a single processor by combining multiple independent circuits to realize its functions. good.

ここで、プロセッサによって実行されるプログラムは、ROM(Read Only Memory)や記憶部等に予め組み込まれて提供される。なお、このプログラムは、これらの装置にインストール可能な形式又は実行可能な形式のファイルでCD(Compact Disk)-ROM、FD(Flexible Disk)、CD-R(Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記憶媒体に記録されて提供されてもよい。また、このプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードされることにより提供又は配布されてもよい。例えば、このプログラムは、各機能部を含むモジュールで構成される。実際のハードウェアとしては、CPUが、ROM等の記憶媒体からプログラムを読み出して実行することにより、各モジュールが主記憶装置上にロードされて、主記憶装置上に生成される。 Here, the program to be executed by the processor is provided by being pre-installed in a ROM (Read Only Memory), a storage unit, or the like. This program is a file in a format that can be installed or executable on these devices, such as CD (Compact Disk)-ROM, FD (Flexible Disk), CD-R (Recordable), DVD (Digital Versatile Disk), etc. It may be provided recorded on a computer readable storage medium. Further, this program may be stored on a computer connected to a network such as the Internet, and may be provided or distributed by being downloaded via the network. For example, this program is composed of modules including each functional section. In actual hardware, a CPU reads a program from a storage medium such as a ROM and executes it, so that each module is loaded onto the main storage device and generated on the main storage device.

1 情報収集システム
10 情報収集装置
20 医用画像診断装置群
21 画像保管装置
30 学習装置
40 端末
1 Information collection system 10 Information collection device 20 Medical image diagnosis device group 21 Image storage device 30 Learning device 40 Terminal

Claims (11)

入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する第1記憶部と、
前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記取得部が取得した演算結果と、前記第1記憶部が記憶する前記演算結果に関する情報から決定された範囲との関係を比較し、前記取得部が取得した演算結果が前記範囲を逸脱している場合、前記医用情報がレアケースに該当すると判定する判定部と、
前記医用情報がレアケースに該当すると判定された演算結果に対応する前記医用情報に関する情報を記憶する第2記憶部と
を有する医用情報収集システム。
In a first trained model that includes one or more intermediate layers that perform calculation processing on input information and an output layer that outputs diagnostic results based on the calculation results of the intermediate layers, the intermediate layer outputs a first storage unit that stores information regarding calculation results;
an acquisition unit that acquires a calculation result output by the intermediate layer in response to medical information being input to the input layer of the first trained model;
Compare the relationship between the calculation result acquired by the acquisition unit and a range determined from information regarding the calculation result stored in the first storage unit, and determine whether the calculation result acquired by the acquisition unit deviates from the range. a determination unit that determines that the medical information corresponds to a rare case if the
A second storage unit that stores information regarding the medical information corresponding to a calculation result in which it is determined that the medical information corresponds to a rare case.
前記取得部は、取得した前記演算結果を含む情報を、前記演算結果に関する情報として前記第1記憶部に格納する請求項1に記載の医用情報収集システム。 The medical information collection system according to claim 1, wherein the acquisition unit stores information including the acquired calculation result in the first storage unit as information regarding the calculation result. 前記第2記憶部に記憶された医用情報に関する情報を出力する出力部と、
前記出力部により出力された前記医用情報に対する判断結果の入力をユーザから受け付け、受け付けた前記判断結果を前記医用情報と対応付けて前記第2記憶部に格納する受付部と
をさらに有する請求項2に記載の医用情報収集システム。
an output unit that outputs information regarding the medical information stored in the second storage unit;
Claim 2 further comprising: a reception unit that receives from a user an input of a judgment result regarding the medical information outputted by the output unit, and stores the accepted judgment result in the second storage unit in association with the medical information. The medical information collection system described in .
前記判定部は、前記医用情報及び前記判断結果を、前記医用情報が収集された被検体に関する被検体情報と対応付けて前記第2記憶部に格納する請求項3に記載の医用情報収集システム。 4. The medical information collection system according to claim 3, wherein the determination unit stores the medical information and the determination result in the second storage unit in association with subject information regarding the subject from whom the medical information has been collected. 前記取得部は、前記入力層に入力された前記医用情報の被検体に関する被検体情報をさらに取得し、取得した前記被検体情報と合致する被検体情報が前記第2記憶部に記憶されている場合、当該合致する被検体情報に対応付けて前記入力層に入力された前記医用情報に関する情報を前記第2記憶部に格納する請求項4に記載の医用情報収集システム。 The acquisition unit further acquires subject information regarding the subject of the medical information input to the input layer, and subject information that matches the acquired subject information is stored in the second storage unit. 5. The medical information collection system according to claim 4, wherein, in the case where the medical information is inputted to the input layer in association with the matching subject information, the second storage unit stores information regarding the medical information input to the input layer in association with the matching subject information. 前記受付部は、前記医用情報の被検体に関する情報、前記医用情報及び前記判断結果を匿名化して格納する請求項4又は5に記載の医用情報収集システム。 The medical information collection system according to claim 4 or 5, wherein the reception unit stores the medical information related to the subject, the medical information, and the judgment result in anonymized form. 前記受付部は、前記医用情報及び前記判断結果を、前記ユーザと対応付けて前記第2記憶部に格納する請求項3乃至6のいずれか1つに記載の医用情報収集システム。 The medical information collection system according to any one of claims 3 to 6, wherein the reception unit stores the medical information and the judgment result in the second storage unit in association with the user. 前記取得部は、複数の前記第1の学習済みモデルから、前記中間層が出力する演算結果を取得し、
前記第2記憶部が、前記取得部が取得した演算結果を、前記演算結果を出力した複数の前記第1の学習済みモデルに関する情報と対応付けて記憶する
請求項3乃至7のいずれか1つに記載の医用情報収集システム。
The acquisition unit acquires the calculation results output by the intermediate layer from the plurality of first trained models,
Any one of claims 3 to 7, wherein the second storage unit stores the calculation results acquired by the acquisition unit in association with information regarding the plurality of first trained models that output the calculation results. The medical information collection system described in .
複数の医用画像診断装置から前記医用情報を収集する収集部をさらに有し、
前記受付部は、前記医用情報及び前記判断結果を、前記収集部が前記医用情報を収集した前記医用画像診断装置に関する情報と対応付けて格納する
請求項3乃至8のいずれか1つに記載の医用情報収集システム。
further comprising a collection unit that collects the medical information from a plurality of medical image diagnostic devices,
The reception unit stores the medical information and the judgment result in association with information regarding the medical image diagnostic apparatus from which the collection unit has collected the medical information. Medical information collection system.
前記取得部は、取得した前記演算結果を統計処理した統計データを、前記演算結果に関する情報として前記第1記憶部に格納する、請求項2乃至9のいずれか1つに記載の医用情報収集システム。 The medical information collection system according to any one of claims 2 to 9, wherein the acquisition unit stores statistical data obtained by statistically processing the acquired calculation results in the first storage unit as information regarding the calculation results. . 入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する第1記憶部と、
前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記取得部が取得した演算結果と、前記第1記憶部が記憶する前記演算結果に関する情報から決定された範囲との関係を比較し、前記取得部が取得した演算結果が前記範囲を逸脱している場合、前記医用情報がレアケースに該当すると判定する判定部と、
前記医用情報がレアケースに該当すると判定された演算結果に対応する前記医用情報に関する情報を記憶する第2記憶部と
を有する医用情報収集装置。
In a first trained model that includes one or more intermediate layers that perform calculation processing on input information and an output layer that outputs diagnostic results based on the calculation results of the intermediate layers, the intermediate layer outputs a first storage unit that stores information regarding calculation results;
an acquisition unit that acquires a calculation result output by the intermediate layer in response to medical information being input to the input layer of the first trained model;
Compare the relationship between the calculation result acquired by the acquisition unit and a range determined from information regarding the calculation result stored in the first storage unit, and determine whether the calculation result acquired by the acquisition unit deviates from the range. a determination unit that determines that the medical information corresponds to a rare case if the
a second storage unit that stores information regarding the medical information corresponding to a calculation result in which it is determined that the medical information corresponds to a rare case.
JP2018180255A 2018-09-26 2018-09-26 Medical information collection system and medical information collection device Active JP7442964B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018180255A JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018180255A JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Publications (2)

Publication Number Publication Date
JP2020048783A JP2020048783A (en) 2020-04-02
JP7442964B2 true JP7442964B2 (en) 2024-03-05

Family

ID=69994448

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018180255A Active JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Country Status (1)

Country Link
JP (1) JP7442964B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002259940A (en) 2001-03-06 2002-09-13 Kddi Corp Parallel neural network processing system with output state determination function
WO2017017722A1 (en) 2015-07-24 2017-02-02 オリンパス株式会社 Processing device, processing method and program
JP2017207947A (en) 2016-05-19 2017-11-24 株式会社 ディー・エヌ・エー Program, system, and method for determining similarity of object

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3231810B2 (en) * 1990-08-28 2001-11-26 アーチ・デベロップメント・コーポレーション Differential diagnosis support method using neural network
JPH05225163A (en) * 1992-02-13 1993-09-03 Hitachi Ltd Neural network system and learning method of neural network
JP4480508B2 (en) * 2004-08-02 2010-06-16 富士通株式会社 Diagnosis support program and diagnosis support apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002259940A (en) 2001-03-06 2002-09-13 Kddi Corp Parallel neural network processing system with output state determination function
WO2017017722A1 (en) 2015-07-24 2017-02-02 オリンパス株式会社 Processing device, processing method and program
JP2017207947A (en) 2016-05-19 2017-11-24 株式会社 ディー・エヌ・エー Program, system, and method for determining similarity of object

Also Published As

Publication number Publication date
JP2020048783A (en) 2020-04-02

Similar Documents

Publication Publication Date Title
US11288550B2 (en) Data processing apparatus and method, recognition apparatus, learning data storage apparatus, machine learning apparatus, and program
JP5398518B2 (en) Medical diagnosis support device
US9760689B2 (en) Computer-aided diagnosis method and apparatus
KR101874348B1 (en) Method for facilitating dignosis of subject based on chest posteroanterior view thereof, and apparatus using the same
JP6930411B2 (en) Information processing device and information processing method
US10706534B2 (en) Method and apparatus for classifying a data point in imaging data
CN115719330A (en) Fully automated assessment of coronary vulnerable plaque in coronary CT images using radiological characterization
US20210398654A1 (en) Automatic detection of covid-19 in chest ct images
JP2019061579A (en) Learning support device, operation method for learning support device, learning support program, learning support system, and terminal device
KR20210158682A (en) Method to display lesion readings result
EP3362925B1 (en) Systems and methods for generating correct radiological recommendations
CN113902642A (en) Medical image processing method and device, electronic equipment and storage medium
JP6257564B2 (en) Diagnosis support apparatus, diagnosis support system, operation method and program for diagnosis support apparatus
JP7321690B2 (en) Verification system and verification device
JP6220435B2 (en) Diagnosis support apparatus and control method thereof
JP7442964B2 (en) Medical information collection system and medical information collection device
US12014814B2 (en) Methods and systems for tuning a static model
US20240087304A1 (en) System for medical data analysis
CN119631144A (en) Computational architecture for remote imaging inspection monitoring to provide accurate, robust and real-time events
JP6403832B2 (en) Diagnosis support apparatus, diagnosis support method and program
JP6147304B2 (en) Medical diagnosis support device and medical diagnosis support system
JP6686085B2 (en) Diagnosis support device, method of operating diagnosis support device, and program
KR20250142179A (en) Electronic device for determining risk of nodule based on presence of lung disease, method of operation thereof, and recording medium for performing the same
KR20250001088A (en) Method and device for training respiratory muscles classification model with chest ct video
CN119948575A (en) System and method for automatic state estimation of current imaging examination using user actions on console screen

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221227

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230106

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230110

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230310

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240221

R150 Certificate of patent or registration of utility model

Ref document number: 7442964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150