JP7723922B2 - X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and program - Google Patents
X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and programInfo
- Publication number
- JP7723922B2 JP7723922B2 JP2021050527A JP2021050527A JP7723922B2 JP 7723922 B2 JP7723922 B2 JP 7723922B2 JP 2021050527 A JP2021050527 A JP 2021050527A JP 2021050527 A JP2021050527 A JP 2021050527A JP 7723922 B2 JP7723922 B2 JP 7723922B2
- Authority
- JP
- Japan
- Prior art keywords
- age
- ray
- data
- image
- estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Description
本発明は、レントゲン年齢推定学習装置、レントゲン年齢推定装置、画像年齢推定学習装置、画像年齢推定装置、レントゲン撮影システム、評価装置、レントゲン年齢推定学習方法、レントゲン年齢推定方法及びプログラムに関する。 The present invention relates to a X-ray age estimation learning device, a X-ray age estimation device, an image age estimation learning device, an image age estimation device, an X-ray imaging system, an evaluation device, a X-ray age estimation learning method, a X-ray age estimation method, and a program.
従来、被験者の脈波から生体の血管年齢を測定する技術があった(例えば、特許文献1参照)。 Conventionally, there has been technology for measuring a living body's vascular age from a subject's pulse wave (see, for example, Patent Document 1).
血管年齢は、直感的に理解しやすいため、現在広く使われている。しかしながら、血管年齢は治療による大きな変化はみられないことが多い。そのため、医師が臨床の治療方針を転換するための情報として血管年齢が活用されることはほとんどなかった。 Vascular age is currently widely used because it is intuitively easy to understand. However, vascular age often does not show significant changes due to treatment. For this reason, vascular age has rarely been used as information to help doctors change clinical treatment strategies.
上記事情に鑑み、本発明は、健康に関する状態の判断や治療方針の決定に有用な情報を提供することができるレントゲン年齢推定学習装置、レントゲン年齢推定装置、画像年齢推定学習装置、画像年齢推定装置、レントゲン撮影システム、評価装置、レントゲン年齢推定学習方法、レントゲン年齢推定方法及びプログラムを提供することを目的としている。 In light of the above circumstances, the present invention aims to provide a X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method, and program that can provide information useful for assessing health conditions and determining treatment plans.
本発明の一態様は、被験者のレントゲン画像のデータと前記レントゲン画像が撮影されたときの前記被験者の年齢の情報とを用いて、前記レントゲン画像のデータから得られた特徴量と前記被験者の年齢との対応を示すレントゲン年齢推定モデルを学習する学習部、を備えるレントゲン年齢推定学習装置である。 One aspect of the present invention is a radiographic age estimation learning device that includes a learning unit that uses data on a subject's radiographic image and information on the subject's age at the time the radiographic image was taken to learn a radiographic age estimation model that indicates the correspondence between feature values obtained from the radiographic image data and the subject's age.
本発明の一態様は、上述のレントゲン年齢推定学習装置であって、前記レントゲン画像は、胸部のレントゲン画像である。 One aspect of the present invention is the above-mentioned X-ray age estimation learning device, in which the X-ray image is a chest X-ray image.
本発明の一態様は、被験者のレントゲン画像のデータと前記レントゲン画像が撮影されたときの前記被験者の年齢の情報とを用いて学習されたレントゲン年齢推定モデルであって、前記レントゲン画像のデータから得られた特徴量と前記被験者の年齢との対応を示す前記レントゲン年齢推定モデルに、年齢推定対象の被験者のレントゲン画像である推定対象レントゲン画像のデータから得られた特徴量を入力し、年齢推定対象の前記被験者の年齢の推定結果を得る推定部、を備えるレントゲン年齢推定装置である。 One aspect of the present invention is a radiographic age estimation device that includes an estimation unit that inputs feature amounts obtained from data on an estimation target radiographic image, which is an radiographic image of the subject whose age is to be estimated, into the radiographic age estimation model that is trained using data on a radiographic image of a subject and information on the subject's age at the time the radiographic image was taken, and that indicates the correspondence between feature amounts obtained from the radiographic image data and the subject's age, and obtains an estimated age of the subject whose age is to be estimated.
本発明の一態様は、上述のレントゲン年齢推定装置であって、前記推定対象レントゲン画像において年齢推定対象の前記被験者の年齢推定に寄与した度合いが所定条件を満たす前記特徴量が得られた部分に関する情報である寄与情報を取得する寄与情報取得部、をさらに備える。 One aspect of the present invention is the above-mentioned X-ray age estimation device, further comprising a contribution information acquisition unit that acquires contribution information, which is information about portions of the X-ray image to be estimated that have feature values whose degree of contribution to age estimation of the subject to be age estimation satisfies predetermined conditions.
本発明の一態様は、上述のレントゲン年齢推定装置であって、前記推定部による推定結果の前記年齢の情報、年齢推定対象の前記被験者の実年齢と前記推定部による推定結果の前記年齢との差分の情報、及び、前記寄与情報のうち一以上を出力する出力部をさらに備える。 One aspect of the present invention is the above-mentioned X-ray age estimation device, further comprising an output unit that outputs one or more of information on the age estimated by the estimation unit, information on the difference between the actual age of the subject whose age is to be estimated and the age estimated by the estimation unit, and the contribution information.
本発明の一態様は、上述のレントゲン年齢推定装置であって、前記レントゲン画像及び前記推定対象レントゲン画像は、胸部のレントゲン画像である。 One aspect of the present invention is the above-mentioned X-ray age estimation device, wherein the X-ray image and the estimation target X-ray image are X-ray images of the chest.
本発明の一態様は、被験者の人体を透過撮影して得られた画像である透過撮影画像のデータと前記透過撮影画像が撮影されたときの被験者の年齢の情報とを用いて、前記透過撮影画像のデータから得られた特徴量と前記被験者の年齢との対応を示す年齢推定モデルを学習する学習部、を備える画像年齢推定学習装置である。 One aspect of the present invention is an image-based age estimation learning device that includes a learning unit that uses data on transmitted images, which are images obtained by transmitting images of the subject's body, and information on the subject's age at the time the transmitted images were taken, to learn an age estimation model that indicates the correspondence between feature values obtained from the transmitted image data and the subject's age.
本発明の一態様は、被験者の人体を透過撮影して得られた画像である透過撮影画像のデータと前記透過撮影画像が撮影されたときの前記被験者の年齢の情報とを用いて学習された年齢推定モデルであって、前記透過撮影画像のデータから得られた特徴量と前記被験者の年齢との対応を示す前記年齢推定モデルに、年齢推定対象の被験者の透過撮影画像である推定対象画像のデータから得られた特徴量を入力し、年齢推定対象の前記被験者の年齢の推定結果を得る推定部、を備える画像年齢推定装置である。 One aspect of the present invention is an image-based age estimation device that includes an age estimation model trained using data on transmission images, which are images obtained by transmitting a transmission image of the subject's body, and information on the subject's age at the time the transmission image was captured, and an estimation unit that inputs feature amounts obtained from data on an estimation target image, which is a transmission image of the subject whose age is to be estimated, into the age estimation model that indicates a correspondence between feature amounts obtained from the transmission image data and the subject's age, and obtains an estimated age of the subject whose age is to be estimated.
本発明の一態様は、上記のレントゲン年齢推定装置と、被験者のレントゲン撮影を行い、前記レントゲン撮影により得られた前記被験者のレントゲン画像のデータを推定対象レントゲン画像のデータとして前記レントゲン年齢推定装置に入力するレントゲン撮影装置と、を備えるレントゲン撮影システムである。 One aspect of the present invention is an X-ray imaging system comprising the above-described X-ray age estimation device and an X-ray imaging device that performs X-ray imaging of a subject and inputs data of the X-ray image of the subject obtained by the X-ray imaging into the X-ray age estimation device as data of the X-ray image to be estimated.
本発明の一態様は、上記のレントゲン年齢推定装置による被験者の年齢の推定結果と、前記被験者の生体又は生活習慣に関する情報又は当該情報を表す数値とを用いて所定の演算を行った結果に基づいて、前記被験者の疾病又は病態に関する評価を行う評価部、を備える評価装置である。 One aspect of the present invention is an evaluation device that includes an evaluation unit that evaluates the subject's disease or pathological condition based on the results of a predetermined calculation using the result of the subject's age estimation by the above-mentioned X-ray age estimation device and information about the subject's biology or lifestyle or a numerical value representing that information.
本発明の一態様は、被験者のレントゲン画像のデータと前記レントゲン画像が撮影されたときの前記被験者の年齢の情報とを用いて、前記レントゲン画像のデータから得られた特徴量と前記被験者の年齢との対応を示すレントゲン年齢推定モデルを学習する学習ステップ、を有するレントゲン年齢推定学習方法である。 One aspect of the present invention is a Roentgen age estimation learning method that includes a learning step of using data on a subject's Roentgen image and information on the subject's age at the time the Roentgen image was taken to learn a Roentgen age estimation model that indicates the correspondence between feature values obtained from the Roentgen image data and the subject's age.
本発明の一態様は、被験者のレントゲン画像のデータと前記レントゲン画像が撮影されたときの前記被験者の年齢の情報とを用いて学習されたレントゲン年齢推定モデルであって、前記レントゲン画像のデータから得られた特徴量と前記被験者の年齢との対応を示す前記レントゲン年齢推定モデルに、年齢推定対象の被験者のレントゲン画像である推定対象レントゲン画像のデータから得られた特徴量を入力し、年齢推定対象の前記被験者の年齢の推定結果を得る推定ステップ、を有するレントゲン年齢推定方法である。 One aspect of the present invention is a radiographic age estimation method that includes an estimation step of inputting feature values obtained from data on an estimation target radiographic image, which is an radiographic image of the subject whose age is to be estimated, into a radiographic age estimation model trained using data on the radiographic image of a subject and information on the subject's age at the time the radiographic image was taken, the radiographic age estimation model indicating the correspondence between feature values obtained from the radiographic image data and the subject's age, and obtaining an estimated age of the subject whose age is to be estimated.
本発明の一態様は、コンピュータを、上述のいずれかに記載のレントゲン年齢推定学習装置として動作させるためのプログラムである。 One aspect of the present invention is a program for causing a computer to operate as any of the above-described X-ray age estimation learning devices.
本発明の一態様は、コンピュータを、上述のいずれかに記載のレントゲン年齢推定装置として動作させるためのプログラムである。 One aspect of the present invention is a program for causing a computer to operate as any of the above-described X-ray age estimation devices.
本発明により、健康に関する状態の判断や治療方針の決定に有用な情報を提供することが可能となる。 This invention makes it possible to provide information useful for assessing health conditions and determining treatment plans.
以下、図面を参照して本発明の実施の形態を詳細に説明する。 The following describes in detail an embodiment of the present invention with reference to the drawings.
図1は、レントゲン年齢推定システム1を示す図である。レントゲン年齢推定システム1は、レントゲン年齢推定学習装置10と、レントゲン年齢推定装置50とを有する。レントゲン年齢推定学習装置10及びレントゲン年齢推定装置50はそれぞれ、人体の内部を透過撮影して得られた画像のデータとして、レントゲン撮影を行って得られたレントゲン画像のデータを用いる場合の画像年齢推定学習装置及び画像年齢推定装置の例である。同図では、レントゲン年齢推定装置50を1台のみ示しているが、レントゲン年齢推定装置50の台数は任意である。また、レントゲン年齢推定学習装置10及びレントゲン年齢推定装置50が統合された同一の装置で実現されてもよい。 Figure 1 shows a radiographic age estimation system 1. The radiographic age estimation system 1 includes a radiographic age estimation learning device 10 and a radiographic age estimation device 50. The radiographic age estimation learning device 10 and the radiographic age estimation device 50 are examples of an image-based age estimation learning device and an image-based age estimation device, respectively, in which radiographic image data obtained by radiography is used as image data obtained by radiography of the inside of the human body. While only one radiographic age estimation device 50 is shown in the figure, any number of radiographic age estimation devices 50 may be used. The radiographic age estimation learning device 10 and the radiographic age estimation device 50 may also be implemented as a single integrated device.
レントゲン年齢推定学習装置10は、被験者のレントゲン画像データと年齢の情報とを含む学習データを用いてレントゲン年齢推定モデルを学習する。レントゲン画像データは、被験者をレントゲン撮影することにより得られたレントゲン画像のデータである。年齢の情報は、レントゲン撮影が行われたときの被験者の実年齢を示す。レントゲン年齢推定モデルは、レントゲン画像データから得られた特徴量と、被験者のレントゲン年齢との対応を示すモデルである。レントゲン年齢は、レントゲン画像に基づいて推定される年齢である。レントゲン年齢推定装置50は、レントゲン年齢推定学習装置10が学習したレントゲン年齢推定モデルを用いて、年齢推定対象の被験者のレントゲン画像データから、その年齢推定対象の被験者のレントゲン年齢を得る。本実施形態では、レントゲン画像データとして、胸部レントゲン画像データを用いる。胸部レントゲン画像データは、被験者の胸部をレントゲン撮影して得られた胸部レントゲン画像のデータである。胸部レントゲン画像に基づいて推定されるレントゲン年齢を、胸部レントゲン年齢と記載する。 The X-ray age estimation learning device 10 learns a X-ray age estimation model using learning data including X-ray image data and age information of a subject. The X-ray image data is data of X-ray images obtained by X-raying the subject. The age information indicates the subject's actual age at the time the X-ray was taken. The X-ray age estimation model is a model that shows the correspondence between feature amounts obtained from the X-ray image data and the X-ray age of the subject. The X-ray age is an age estimated based on the X-ray image. The X-ray age estimation device 50 obtains the X-ray age of the subject whose age is to be estimated from the X-ray image data of the subject using the X-ray age estimation model learned by the X-ray age estimation learning device 10. In this embodiment, chest X-ray image data is used as the X-ray image data. The chest X-ray image data is data of chest X-ray images obtained by X-raying the subject's chest. The X-ray age estimated based on the chest X-ray image is referred to as the chest X-ray age.
胸部レントゲン撮影は、最も広く行われている検査である。撮影により得られる胸部レントゲン画像は、早くかつ簡易に得られる上、多くの有用な情報を含んでいる。そのため、胸部レントゲン画像は、日常診療だけではなく、検診にも使用されている。胸部レントゲン画像は、循環器疾患や肺疾患などの診断やモニタに非常に重要である。しかしながら、胸部レントゲン画像の読影には専門的な経験と知識を要することに加え、所見が多岐にわたる。よって、胸部レントゲン画像は、一定の定量的なマーカーとしては使用されていなかった。これは、近年のビッグデータを用いたヘルスケア改革に、胸部レントゲン画像の情報を組み込むことを困難にしていた。 Chest X-rays are the most widely performed examination. The chest X-ray images obtained are quick and easy to obtain, and contain a wealth of useful information. For this reason, chest X-rays are used not only in routine medical practice but also for medical checkups. Chest X-rays are extremely important for diagnosing and monitoring cardiovascular and pulmonary diseases. However, interpreting chest X-rays requires specialized experience and knowledge, and the findings can be diverse. For this reason, chest X-rays have not been used as a consistent quantitative marker. This has made it difficult to incorporate chest X-ray information into recent healthcare reforms using big data.
また一方で、従来から、胸部レントゲン画像には被験者の年齢によって違いがあることがわかっていた。しかしながら、その違いが具体的にどのような特徴として現れるのかは明確になっておらず、熟練した医師であっても、胸部レントゲン画像から被験者の年齢を精度よく推定することは困難であった。本実施形態のレントゲン年齢推定装置50は、年齢推定対象の被験者の胸部レントゲン画像データのみを入力に用いて、年齢推定対象の被験者の年齢の推定結果である胸部レントゲン年齢を得る。 On the other hand, it has long been known that chest X-ray images differ depending on the subject's age. However, it is not clear what specific characteristics these differences manifest as, and even experienced doctors have found it difficult to accurately estimate a subject's age from a chest X-ray image. The X-ray age estimation device 50 of this embodiment uses only the chest X-ray image data of the subject whose age is to be estimated as input, and obtains a chest X-ray age, which is an estimate of the subject's age.
また、レントゲン年齢推定装置50は、胸部レントゲン年齢の推定に寄与した胸部レントゲン画像の部分を提示する。レントゲン年齢推定装置50により推定される胸部レントゲン年齢は後述するように精度が高いため、推定された胸部レントゲン年齢が実年齢よりも高く、かつ、それらの乖離が大きい場合、なんらかの異常所見が示唆される。このような場合、胸部レントゲン年齢の推定に大きく寄与した胸部レントゲン画像の部分は、異常所見の箇所と推定される。また、実年齢と胸部レントゲン年齢との差(以下、年齢差ともいう)は、心不全のような悪いアウトカムにも関連する。これらのことから、胸部レントゲン年齢は、新しい循環器のバイオマーカーとなるだけでなく、臨床医が患者の心疾患を予測、予防、管理するために有用と考えられる。 The X-ray age estimation device 50 also presents the portions of the chest X-ray image that contributed to the estimation of the chest X-ray age. As described below, the chest X-ray age estimated by the X-ray age estimation device 50 is highly accurate. Therefore, if the estimated chest X-ray age is higher than the actual age and there is a large discrepancy between them, some abnormal finding is suggested. In such cases, the portions of the chest X-ray image that significantly contributed to the estimation of the chest X-ray age are estimated to be the areas of the abnormal finding. Furthermore, the difference between the actual age and the chest X-ray age (hereinafter also referred to as the age difference) is also associated with adverse outcomes such as heart failure. For these reasons, chest X-ray age is not only considered to be a new cardiovascular biomarker, but is also useful for clinicians to predict, prevent, and manage heart disease in patients.
図2は、レントゲン年齢推定学習装置10の構成を示すブロック図である。レントゲン年齢推定学習装置10は、モデル記憶部11と、データ記憶部12と、変換部13と、学習データ生成部14と、学習部15と、選択部18と、出力部19とを備える。なお、データ記憶部12は、レントゲン年齢推定学習装置10の外部にあってもよい。 Figure 2 is a block diagram showing the configuration of the Roentgen age estimation learning device 10. The Roentgen age estimation learning device 10 includes a model storage unit 11, a data storage unit 12, a conversion unit 13, a learning data generation unit 14, a learning unit 15, a selection unit 18, and an output unit 19. Note that the data storage unit 12 may be located outside the Roentgen age estimation learning device 10.
モデル記憶部11は、レントゲン年齢推定モデルを記憶する。レントゲン年齢推定モデルには、例えば、CNN(Convolutional neural network;畳み込みニューラルネットワーク)などのDNN(Deep Neural Network;深層ニューラルネットワーク)を用いることができる。モデル記憶部11は、構造が異なる複数のレントゲン年齢推定モデルを記憶してもよい。 The model storage unit 11 stores a Roentgen age estimation model. For example, a DNN (Deep Neural Network) such as a CNN (Convolutional Neural Network) can be used as the Roentgen age estimation model. The model storage unit 11 may store multiple Roentgen age estimation models with different structures.
データ記憶部12は、学習データ及び検証データを記憶する。学習データは、レントゲン年齢推定モデルの学習に用いられる。検証データは、学習されたレントゲン年齢推定モデルの精度を検証するために用いられる。学習データ及び検証データは、被験者のレントゲン画像データと、被験者の年齢の情報とを含む。本実施形態で使用するレントゲン画像データは、例えば、被験者の胸部を正面からレントゲン撮影して得られた胸部レントゲン画像データである。学習データ及び検証データに含まれる年齢の情報は、レントゲン撮影が行われたときの被験者の実年齢を示す。年齢の情報として、被験者の生年月日と、レントゲン撮影が行われた日付とを示す情報を用いてもよい。 The data storage unit 12 stores training data and verification data. The training data is used to train the X-ray age estimation model. The verification data is used to verify the accuracy of the trained X-ray age estimation model. The training data and verification data include X-ray image data of the subject and information on the subject's age. The X-ray image data used in this embodiment is, for example, chest X-ray image data obtained by X-raying the subject's chest from the front. The age information included in the training data and verification data indicates the subject's actual age at the time the X-ray was taken. Information indicating the subject's date of birth and the date the X-ray was taken may also be used as age information.
変換部13は、レントゲン年齢推定モデルへ入力する特徴量が得られるように、レントゲン画像データに所定のデータ変換を行う。なお、レントゲン画像データのデータ変換が不要な場合、レントゲン年齢推定学習装置10は、変換部13を有さなくてもよい。学習データ生成部14は、データ記憶部12に記憶されている学習データを利用して新たな学習データを生成し、生成された学習データをデータ記憶部12に書き込む。 The conversion unit 13 performs a predetermined data conversion on the X-ray image data so as to obtain feature quantities to be input into the X-ray age estimation model. Note that if data conversion of the X-ray image data is not required, the X-ray age estimation learning device 10 does not need to include the conversion unit 13. The training data generation unit 14 generates new training data using the training data stored in the data storage unit 12, and writes the generated training data to the data storage unit 12.
学習部15は、学習データを用いてレントゲン年齢推定モデルを学習する。学習部15は、推定部16及び更新部17を有する。推定部16は、学習データに含まれるレントゲン画像データから特徴量を取得する。特徴量は、例えば、画素値である。推定部16は、取得した特徴量をモデル記憶部11に記憶されているレントゲン年齢推定モデルに入力し、レントゲン年齢の推定結果を得る。更新部17は、学習データに含まれるレントゲン画像データに基づいて得られたレントゲン年齢と、その学習データが示す被験者の実年齢との誤差が小さくなるように、レントゲン年齢推定モデルを更新する。レントゲン年齢推定モデルがDNNである場合、レントゲン年齢推定モデルの更新とは、ニューロン間の重みの値、すなわち、DNNを構成するニューロン間の接続関係を表す関数に用いられているパラメータの値を更新することである。 The learning unit 15 learns the Roentgen age estimation model using the training data. The learning unit 15 has an estimation unit 16 and an update unit 17. The estimation unit 16 acquires features from the Roentgen image data included in the training data. The features are, for example, pixel values. The estimation unit 16 inputs the acquired features into the Roentgen age estimation model stored in the model storage unit 11 to obtain an estimated Roentgen age. The update unit 17 updates the Roentgen age estimation model so as to reduce the error between the Roentgen age obtained based on the Roentgen image data included in the training data and the subject's actual age indicated by the training data. When the Roentgen age estimation model is a DNN, updating the Roentgen age estimation model means updating the weight values between neurons, i.e., the parameter values used in the function representing the connection relationships between the neurons that make up the DNN.
選択部18は、学習部15により学習されたレントゲン年齢推定モデルが複数ある場合、各レントゲン年齢推定モデルに、検証データに含まれるレントゲン画像データから得られた特徴量を入力して、レントゲン年齢の推定結果を得る。選択部18は、推定部16にレントゲン年齢の算出を実行させてもよい。選択部18は、検証データに含まれるレントゲン画像データに基づいて得られたレントゲン年齢と、検証データが示す被験者の実年齢との誤差を算出する。選択部18は、複数のレントゲン年齢推定モデルから、統計的に誤差が最も小さいレントゲン年齢推定モデルを選択する。なお、レントゲン年齢推定モデルが一つの場合、レントゲン年齢推定学習装置10は選択部18を有さなくてもよい。また、選択部18は、各レントゲン年齢推定モデルについて算出した誤差の統計値を出力部19により出力し、ユーザが出力された誤差の統計値に基づいて選択したレントゲン年齢推定モデルの情報を図示しない入力部によりレントゲン年齢推定学習装置10に入力してもよい。 When there are multiple Roentgen age estimation models trained by the learning unit 15, the selection unit 18 inputs feature values obtained from the Roentgen age estimation model included in the verification data into each Roentgen age estimation model to obtain a Roentgen age estimation result. The selection unit 18 may cause the estimation unit 16 to calculate the Roentgen age. The selection unit 18 calculates the error between the Roentgen age obtained based on the Roentgen image data included in the verification data and the subject's actual age indicated by the verification data. The selection unit 18 selects the Roentgen age estimation model with the statistically smallest error from the multiple Roentgen age estimation models. Note that when there is only one Roentgen age estimation model, the Roentgen age estimation learning device 10 may not have the selection unit 18. Alternatively, the selection unit 18 may output statistical values of the errors calculated for each Roentgen age estimation model via the output unit 19, and the user may input information about the Roentgen age estimation model selected based on the output statistical values of the errors to the Roentgen age estimation learning device 10 via an input unit (not shown).
出力部19は、各種データを出力する。出力は、ディスプレイへの表示でもよく、プリンタによる印刷でもよく、記録媒体への書き込みでもよく、レントゲン年齢推定学習装置10とネットワークを介して接続される他の装置への送信でもよい。出力部19は、選択部18が選択したレントゲン年齢推定モデルを、レントゲン年齢推定装置50又は他の装置に送信する、あるいは、記録媒体に書き込むなどして出力する。 The output unit 19 outputs various types of data. The output may be displayed on a display, printed by a printer, written to a recording medium, or transmitted to another device connected to the X-ray age estimation learning device 10 via a network. The output unit 19 outputs the X-ray age estimation model selected by the selection unit 18 by transmitting it to the X-ray age estimation device 50 or another device, or by writing it to a recording medium.
図3は、レントゲン年齢推定装置50の構成を示すブロック図である。レントゲン年齢推定装置50は、入力部51と、モデル記憶部52と、変換部53と、推定部54と、寄与情報取得部55と、出力部56とを備える。 Figure 3 is a block diagram showing the configuration of the X-ray age estimation device 50. The X-ray age estimation device 50 includes an input unit 51, a model storage unit 52, a conversion unit 53, an estimation unit 54, a contribution information acquisition unit 55, and an output unit 56.
入力部51は、データを入力する。入力は、レントゲン年齢推定装置50とネットワークを介して接続される他の装置からの受信でもよく、記録媒体からの読み込みでもよい。入力部51は、レントゲン年齢推定学習装置10が学習したレントゲン年齢推定モデルを入力し、モデル記憶部52に書き込む。また、入力部51は、レントゲン年齢の推定対象となるレントゲン画像データを入力し、変換部53に出力する。 The input unit 51 inputs data. The input may be received from another device connected to the Roentgen age estimation device 50 via a network, or may be read from a recording medium. The input unit 51 inputs the Roentgen age estimation model learned by the Roentgen age estimation learning device 10 and writes it to the model storage unit 52. The input unit 51 also inputs Roentgen image data to be used for Roentgen age estimation, and outputs it to the conversion unit 53.
モデル記憶部52は、レントゲン年齢推定モデルを記憶する。モデル記憶部52として、レントゲン年齢推定学習装置10が備えるモデル記憶部11を用いてもよい。変換部53は、入力部51が入力したレントゲン画像データに、レントゲン年齢推定学習装置10の変換部13が行うデータ変換と同様のデータ変換を行う。なお、レントゲン画像データのデータ変換が必要ない場合、レントゲン年齢推定装置50は、変換部53を有さなくてもよい。推定部54は、変換部53によりデータ変換されたレントゲン画像データから、レントゲン年齢推定学習装置10の推定部16と同様に特徴量を取得する。推定部54は、取得した特徴量をモデル記憶部52に記憶されているレントゲン年齢推定モデルに入力し、レントゲン年齢を得る。 The model storage unit 52 stores the Roentgen age estimation model. The model storage unit 11 included in the Roentgen age estimation learning device 10 may be used as the model storage unit 52. The conversion unit 53 performs data conversion on the Roentgen image data input by the input unit 51 in the same manner as the conversion unit 13 of the Roentgen age estimation learning device 10. Note that if data conversion of the Roentgen image data is not required, the Roentgen age estimation device 50 may not have the conversion unit 53. The estimation unit 54 acquires feature quantities from the Roentgen image data converted by the conversion unit 53, in the same way as the estimation unit 16 of the Roentgen age estimation learning device 10. The estimation unit 54 inputs the acquired feature quantities into the Roentgen age estimation model stored in the model storage unit 52 to obtain the Roentgen age.
寄与情報取得部55は、寄与情報を取得する。寄与情報は、レントゲン年齢推定モデルを用いたレントゲン年齢の推定に寄与した度合いが所定条件を満たす特徴量が得られたレントゲン画像データの部分に関する情報である。所定条件は、寄与の度合いを複数の段階に分類する条件であってもよい。また、寄与情報は、レントゲン画像データの各部分(例えば、各画素)から得られた特徴量がレントゲン年齢の推定に寄与した度合いを表す情報でもよい。レントゲン年齢推定モデルがCNNである場合、寄与情報取得部55は、例えば、Grad-CAMにより生成されたヒートマップを寄与情報として得る。 The contribution information acquisition unit 55 acquires contribution information. The contribution information is information about portions of the X-ray image data from which feature values have been obtained, the degree of contribution to the estimation of the X-ray age using the X-ray age estimation model satisfying a predetermined condition. The predetermined condition may be a condition that classifies the degree of contribution into multiple stages. The contribution information may also be information that represents the degree to which feature values obtained from each portion of the X-ray image data (e.g., each pixel) contributed to the estimation of the X-ray age. If the X-ray age estimation model is a CNN, the contribution information acquisition unit 55 acquires, for example, a heat map generated by Grad-CAM as contribution information.
出力部56は、各種データを出力する。出力は、ディスプレイへの表示でもよく、プリンタによる印刷でもよく、記録媒体への書き込みでもよく、レントゲン年齢推定装置50とネットワークを介して接続される他の装置への送信でもよい。出力部56は、推定部54が推定したレントゲン年齢の情報と、寄与情報取得部55が取得した寄与情報とを出力する。 The output unit 56 outputs various data. The output may be displayed on a display, printed by a printer, written to a recording medium, or transmitted to another device connected to the X-ray age estimation device 50 via a network. The output unit 56 outputs information on the X-ray age estimated by the estimation unit 54 and the contribution information acquired by the contribution information acquisition unit 55.
レントゲン年齢推定学習装置10及びレントゲン年齢推定装置50の各々は、一例として、図4に示すコンピュータ80によって実現される。図4は、コンピュータ80のハードウェア構成を示す図である。コンピュータ80は、プロセッサ81と、記憶部82と、ユーザインタフェース83と、通信インタフェース84とを、バス85で接続した構成である。プロセッサ81は、演算や制御を行う。プロセッサ81は、例えば、CPU(central processing unit)やGPU(Graphics Processing Unit)である。記憶部82は、コンピュータ80をレントゲン年齢推定学習装置10又はレントゲン年齢推定装置50として機能させるためのプログラムを記憶する。プロセッサ81は、プログラムを記憶部82から読み出して実行する。さらに、記憶部82は、プロセッサ81がプログラムを実行する際のワークエリアなどを有する。ユーザインタフェース83は、キーボード、ポインティングデバイス(マウス、タブレット等)、ボタン、タッチパネル等の入力装置や、ディスプレイなどの表示装置である。通信インタフェース84は、他装置と通信可能に接続するものである。なお、レントゲン年齢推定学習装置10の機能及びレントゲン年齢推定装置50の機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されてもよい。 Each of the X-ray age estimation learning device 10 and the X-ray age estimation device 50 is realized, for example, by a computer 80 shown in FIG. 4. FIG. 4 is a diagram showing the hardware configuration of the computer 80. The computer 80 is configured by connecting a processor 81, a memory unit 82, a user interface 83, and a communication interface 84 via a bus 85. The processor 81 performs calculations and control. The processor 81 is, for example, a CPU (central processing unit) or a GPU (graphics processing unit). The memory unit 82 stores programs for causing the computer 80 to function as the X-ray age estimation learning device 10 or the X-ray age estimation device 50. The processor 81 reads and executes the programs from the memory unit 82. The memory unit 82 also has a work area for the processor 81 to use when executing the programs. The user interface 83 is an input device such as a keyboard, pointing device (mouse, tablet, etc.), button, or touch panel, and a display device such as a monitor. The communication interface 84 connects the computer 80 to other devices so that they can communicate with each other. Note that all or part of the functions of the X-ray age estimation learning device 10 and the X-ray age estimation device 50 may be realized using hardware such as an ASIC (Application Specific Integrated Circuit), a PLD (Programmable Logic Device), or an FPGA (Field Programmable Gate Array).
なお、レントゲン年齢推定学習装置10とレントゲン年齢推定装置50とを統合した同一の装置(以下、学習推定装置と記載)により実現する場合、モデル記憶部11とモデル記憶部52とが同一でもよく、推定部16と推定部54とが同一でもよく、出力部19と出力部56とが同一でもよい。 When the X-ray age estimation learning device 10 and the X-ray age estimation device 50 are integrated into a single device (hereinafter referred to as the learning estimation device), the model memory unit 11 and the model memory unit 52 may be the same, the estimation unit 16 and the estimation unit 54 may be the same, and the output unit 19 and the output unit 56 may be the same.
また、レントゲン年齢推定学習装置10、レントゲン年齢推定装置50、及び、学習推定装置をそれぞれ、ネットワークに接続される複数のコンピュータ装置により実現してもよい。この場合、レントゲン年齢推定学習装置10、レントゲン年齢推定装置50、及び、学習推定装置それぞれの各機能部を、それら複数のコンピュータ装置のいずれにより実現するかは任意とすることができる。また、一つの機能部を複数のコンピュータ装置により実現してもよい。 Furthermore, the X-ray age estimation learning device 10, the X-ray age estimation device 50, and the learning estimation device may each be realized by multiple computer devices connected to a network. In this case, it is optional which of the multiple computer devices each functional unit of the X-ray age estimation learning device 10, the X-ray age estimation device 50, and the learning estimation device is realized by. Furthermore, one functional unit may be realized by multiple computer devices.
例えば、レントゲン年齢推定学習装置10のデータ記憶部12と、モデル記憶部11、変換部13、学習データ生成部14、学習部15及び選択部18とを異なるコンピュータ装置により実現してもよく、データ記憶部12及び変換部13と、モデル記憶部11、学習データ生成部14、学習部15及び選択部18とを異なるコンピュータ装置により実現してもよく、データ記憶部12、変換部13及び学習データ生成部14と、モデル記憶部11、学習部15及び選択部18とを異なるコンピュータ装置により実現してもよい。また、例えば、レントゲン年齢推定装置50のモデル記憶部52と、変換部53、推定部54及び寄与情報取得部55とを異なるコンピュータ装置により実現してもよく、入力部51、変換部53及び出力部56と、モデル記憶部52、推定部54及び寄与情報取得部55とを異なるコンピュータ装置により実現してもよく、入力部51及び出力部56と、モデル記憶部52、変換部53、推定部54及び寄与情報取得部55とを異なるコンピュータ装置により実現してもよい。また、レントゲン年齢推定学習装置10のデータ記憶部12、変換部13、学習データ生成部14及び学習部15のうち一部又は全てを複数のコンピュータ装置により実現してもよい。学習部15を複数のコンピュータ装置により実現する場合、各コンピュータ装置が並列で異なる種類のレントゲン年齢推定モデルを学習してもよい。 For example, the data memory unit 12, model memory unit 11, conversion unit 13, learning data generation unit 14, learning unit 15 and selection unit 18 of the X-ray age estimation learning device 10 may be realized by different computer devices, the data memory unit 12 and conversion unit 13 may be realized by different computer devices, and the data memory unit 12, conversion unit 13 and learning data generation unit 14 may be realized by different computer devices, and the model memory unit 11, learning unit 15 and selection unit 18 may be realized by different computer devices. Furthermore, for example, the model storage unit 52, the conversion unit 53, the estimation unit 54, and the contribution information acquisition unit 55 of the Roentgen age estimation device 50 may be implemented by different computer devices; the input unit 51, the conversion unit 53, and the output unit 56 may be implemented by different computer devices; or the input unit 51 and the output unit 56 may be implemented by different computer devices; the model storage unit 52, the conversion unit 53, the estimation unit 54, and the contribution information acquisition unit 55 may be implemented by different computer devices. Furthermore, some or all of the data storage unit 12, the conversion unit 13, the learning data generation unit 14, and the learning unit 15 of the Roentgen age estimation learning device 10 may be implemented by multiple computer devices. When the learning unit 15 is implemented by multiple computer devices, each computer device may learn a different type of Roentgen age estimation model in parallel.
続いて、レントゲン年齢推定モデルの学習処理について説明する。以下では、レントゲン年齢推定モデルとしてDNNを用いる場合を例に説明する。レントゲン年齢推定学習装置10は、転移学習及びファインチューニングによりレントゲン年齢推定モデルを学習する。これにより、予め他の目的により学習されたDNNを改良し、最初からレントゲン年齢推定モデルとしてのDNNを学習するよりも短い時間で、かつ、少ない学習データで、レントゲン年齢推定モデルを学習することができる。 Next, the learning process for the Roentgen age estimation model will be explained. The following explanation will be given using an example in which a DNN is used as the Roentgen age estimation model. The Roentgen age estimation learning device 10 learns the Roentgen age estimation model through transfer learning and fine tuning. This makes it possible to improve a DNN that has been trained in advance for another purpose, and to learn the Roentgen age estimation model in a shorter time and with less training data than if a DNN were to be trained as a Roentgen age estimation model from scratch.
図5は、レントゲン年齢推定学習装置10の処理の例を示すフロー図である。モデル記憶部11は、各パラメータに初期値が設定されたレントゲン年齢推定モデルを予め記憶する。このレントゲン年齢推定モデルは、他の目的のために学習済みのDNNの最終層、又は、最終層及び一部の層を置き換えて生成される。学習済みのDNNは、画像データから得られる特徴量を入力とする。また、レントゲン年齢推定モデルの出力層は、推定の年齢、すなわち、レントゲン年齢を出力値とする1つのニューロンである。 Figure 5 is a flow diagram showing an example of the processing of the Roentgen age estimation learning device 10. The model storage unit 11 pre-stores a Roentgen age estimation model in which initial values are set for each parameter. This Roentgen age estimation model is generated by replacing the final layer, or the final layer and some of the layers, of a DNN that has been trained for another purpose. The trained DNN receives as input feature values obtained from image data. The output layer of the Roentgen age estimation model is a single neuron whose output value is the estimated age, i.e., the Roentgen age.
本実施形態では、モデル記憶部11は、M種類(Mは1以上の整数)のレントゲン年齢推定モデル(1)~(M)を記憶する。レントゲン年齢推定モデル(1)~(M)には、それぞれ異なる構造のニューラルネットワークが使用される。m番目(mは1以上M以下の整数)のレントゲン年齢推定モデルを、レントゲン年齢推定モデル(m)と記載する。 In this embodiment, the model storage unit 11 stores M types (M is an integer greater than or equal to 1) of Roentgen age estimation models (1) to (M). Neural networks with different structures are used for the Roentgen age estimation models (1) to (M). The mth (m is an integer greater than or equal to 1 and less than or equal to M) Roentgen age estimation model is referred to as Roentgen age estimation model (m).
変換部13は、レントゲン年齢推定モデルへ入力する特徴量が得られるよう、データ記憶部12に記憶されている学習データ及び検証データのレントゲン画像データに所定のデータ変換を行う(ステップS105)。例えば、変換部13は、レントゲン画像データを、所定のデータ形式かつ所定のデータサイズの画像データに変換する。なお、データ変換が不要の場合、レントゲン年齢推定学習装置10は、ステップS105の処理を行わなくてもよい。 The conversion unit 13 performs a predetermined data conversion on the X-ray image data of the training data and verification data stored in the data storage unit 12 so as to obtain feature quantities to be input into the X-ray age estimation model (step S105). For example, the conversion unit 13 converts the X-ray image data into image data of a predetermined data format and a predetermined data size. Note that if data conversion is not required, the X-ray age estimation learning device 10 does not need to perform the processing of step S105.
学習データ生成部14は、データ記憶部12から一部又は全ての学習データを読み出す。学習データ生成部14は、読み出した学習データに含まれるレントゲン画像データが示す画像を所定の角度内でランダムに傾けた画像のレントゲン画像データに置き換えて新たな学習データを生成する。学習データ生成部14は、1つの学習データから、画像の傾きの角度が異なる複数の新たな学習データを生成してもよい。学習データ生成部14は、生成した学習データを、データ記憶部12に書き込む(ステップS110)。学習データ生成部14が生成した学習データを加えて学習を行うことにより、レントゲン年齢推定モデルをより一般化し、また、オーバーフィッティングが行われないようにする。 The training data generation unit 14 reads some or all of the training data from the data storage unit 12. The training data generation unit 14 generates new training data by replacing the image indicated by the X-ray image data included in the read training data with X-ray image data of an image randomly tilted within a predetermined angle. The training data generation unit 14 may generate multiple new training data with different image tilt angles from one training data. The training data generation unit 14 writes the generated training data to the data storage unit 12 (step S110). By performing training using the training data generated by the training data generation unit 14, the X-ray age estimation model can be made more general and overfitting can be prevented.
学習部15は、変数mに初期値1を設定する(ステップS115)。学習部15は、学習データを用いて、レントゲン年齢推定モデル(m)の転移学習を行う(ステップS120)。すなわち、推定部16は、学習データを1つ選択し、選択した学習データから特徴量を取得する。推定部16は、取得した特徴量をレントゲン年齢推定モデル(m)に入力してレントゲン年齢の推定結果を得る。更新部17は、得られたレントゲン年齢と、選択された学習データが示す実年齢との差分が小さくなるように、レントゲン年齢推定モデル(m)のパラメータのうち、一部のパラメータの値を更新する。具体的には、更新部17は、実年齢とレントゲン年齢とを用いて算出される損失関数を最小化するように、転移学習において更新対象のパラメータの値を、最適化アルゴリズムを用いて更新する。損失関数は、例えば、MSE(mean square error;平均二乗誤差)である。転移学習において更新対象のパラメータは、レントゲン年齢推定モデル(m)の転移元の学習済みCNNに含まれないパラメータであるが、転移元のCNNに含まれる一部のパラメータを含んでもよい。学習部15は、各学習データについて、上述した推定部16によるレントゲン年齢の推定と、更新部17による更新対象のパラメータの値の更新とを繰り返す。 The learning unit 15 sets the variable m to an initial value of 1 (step S115). The learning unit 15 performs transfer learning of the Roentgen age estimation model (m) using the training data (step S120). That is, the estimation unit 16 selects one piece of training data and acquires features from the selected training data. The estimation unit 16 inputs the acquired features into the Roentgen age estimation model (m) to obtain an estimated Roentgen age. The update unit 17 updates the values of some of the parameters of the Roentgen age estimation model (m) so as to reduce the difference between the acquired Roentgen age and the actual age indicated by the selected training data. Specifically, the update unit 17 updates the values of the parameters to be updated in transfer learning using an optimization algorithm so as to minimize a loss function calculated using the actual age and the Roentgen age. The loss function is, for example, MSE (mean square error). In transfer learning, the parameters to be updated are parameters that are not included in the trained CNN from which the Roentgen age estimation model (m) is transferred, but may include some parameters included in the CNN from which the model is transferred. For each piece of training data, the learning unit 15 repeatedly estimates the Roentgen age using the estimation unit 16 and updates the values of the parameters to be updated using the update unit 17.
続いて、学習部15は、学習データを用いてレントゲン年齢推定モデル(m)のファインチューニングを行う(ステップS125)。すなわち、推定部16は、学習データを1つ選択し、選択した学習データから特徴量を取得する。推定部16は、取得した特徴量をレントゲン年齢推定モデル(m)に入力してレントゲン年齢の推定結果を得る。更新部17は、得られたレントゲン年齢と、選択された学習データが示す実年齢との差分が小さくなるように、レントゲン年齢推定モデル(m)の全てのパラメータの値を更新する。つまり、更新部17は、実年齢とレントゲン年齢とを用いて算出される損失関数を最小化するように、最適化アルゴリズムを用いて全パラメータの値を更新する。損失関数は、例えば、MSEである。学習部15は、各学習データについて、推定部16による推定と、更新部17による全てのパラメータの値の更新を繰り返す。 Next, the learning unit 15 fine-tunes the Roentgen age estimation model (m) using the training data (step S125). That is, the estimation unit 16 selects one piece of training data and acquires features from the selected training data. The estimation unit 16 inputs the acquired features into the Roentgen age estimation model (m) to obtain an estimated Roentgen age. The update unit 17 updates the values of all parameters of the Roentgen age estimation model (m) so as to reduce the difference between the acquired Roentgen age and the actual age indicated by the selected training data. That is, the update unit 17 updates the values of all parameters using an optimization algorithm so as to minimize a loss function calculated using the actual age and the Roentgen age. The loss function is, for example, MSE. The learning unit 15 repeats estimation by the estimation unit 16 and updating of all parameter values by the update unit 17 for each piece of training data.
学習部15は、変数mがレントゲン年齢推定モデルのモデル数Mに達したか否かを判定する(ステップS130)。学習部15は、変数mがモデル数Mに達していないと判定した場合(ステップS130:NO)、変数mに1を加算する(ステップS135)。学習部15は、ステップS120からの処理を繰り返す。そして、学習部15は、変数mがモデル数Mに達したと判定した場合(ステップS130:YES)、ステップS140の処理に進む。 The learning unit 15 determines whether the variable m has reached the number of models M of the X-ray age estimation model (step S130). If the learning unit 15 determines that the variable m has not reached the number of models M (step S130: NO), it adds 1 to the variable m (step S135). The learning unit 15 repeats the processing from step S120. Then, if the learning unit 15 determines that the variable m has reached the number of models M (step S130: YES), it proceeds to the processing of step S140.
選択部18は、レントゲン年齢推定モデル(1)~(M)のそれぞれに、各検証データに含まれるレントゲン画像データから得られた特徴量を入力し、レントゲン年齢の推定結果を得る(ステップS140)。選択部18は、検証データに含まれるレントゲン画像データに基づいて得られたレントゲン年齢と、その検証データが示す患者の実年齢との差分を算出する。選択部18は、レントゲン年齢推定モデル(1)~(M)それぞれについて、算出した差分を用いて評価指標の値を算出する。評価指標として、例えば、MSE、RMSE(root mean squared error;二乗平均平方根誤差)、実年齢とレントゲン年齢とのピアソンの相関係数r、MAE(mean absolute error;平均絶対誤差)などを用いることができる。選択部18は、レントゲン年齢推定モデル(1)~(M)の中から、評価指標の値が最も推定精度が良いことを表すレントゲン年齢推定モデル(k)(kは1以上M以下の整数)を選択する(ステップS145)。選択部18は、複数の評価指標を組み合わせて最も精度が良いレントゲン年齢推定モデル(k)を選択してもよい。出力部19は、選択部18が推定したレントゲン年齢推定モデルを出力する。 The selection unit 18 inputs feature quantities obtained from the X-ray image data included in each verification data into each of the X-ray age estimation models (1) to (M) to obtain a X-ray age estimation result (step S140). The selection unit 18 calculates the difference between the X-ray age obtained based on the X-ray image data included in the verification data and the patient's actual age indicated by the verification data. The selection unit 18 calculates an evaluation index value for each of the X-ray age estimation models (1) to (M) using the calculated difference. Examples of evaluation indexes that can be used include MSE, RMSE (root mean squared error), Pearson's correlation coefficient r between actual age and X-ray age, and MAE (mean absolute error). The selection unit 18 selects the X-ray age estimation model (k) (k is an integer between 1 and M) from among the X-ray age estimation models (1) to (M) that exhibits the highest estimation accuracy in terms of the evaluation index value (step S145). The selection unit 18 may combine multiple evaluation indices to select the most accurate Roentgen age estimation model (k). The output unit 19 outputs the Roentgen age estimation model estimated by the selection unit 18.
なお、レントゲン年齢推定学習装置10は、学習データ生成部14により学習データを増強せずにレントゲン年齢推定モデルを学習してもよい。また、レントゲン年齢推定学習装置10は、転移学習を行わずにレントゲン年齢推定モデルの全パラメータの値を学習データに基づいて学習してもよい。また、レントゲン年齢推定学習装置10は、複数種類のレントゲン年齢推定モデルの学習処理を並列に行ってもよい。また、モデル数M=1である場合、レントゲン年齢推定学習装置10は、ステップS140の処理を行なわなくてもよい。この場合、ステップS145において、出力部19は、レントゲン年齢推定モデル(1)を出力する。 The Roentgen age estimation learning device 10 may learn the Roentgen age estimation model without augmenting the learning data using the learning data generation unit 14. The Roentgen age estimation learning device 10 may also learn the values of all parameters of the Roentgen age estimation model based on the learning data without performing transfer learning. The Roentgen age estimation learning device 10 may also perform the learning process of multiple types of Roentgen age estimation models in parallel. If the number of models M = 1, the Roentgen age estimation learning device 10 does not need to perform the process of step S140. In this case, in step S145, the output unit 19 outputs the Roentgen age estimation model (1).
続いて、レントゲン年齢の推定処理について説明する。レントゲン年齢推定装置50は、レントゲン年齢推定学習装置10が学習したレントゲン年齢推定モデル(k)を用いてレントゲン年齢を推定する。図6は、レントゲン年齢推定装置50の処理の例を示すフロー図である。入力部51は、レントゲン年齢推定学習装置10が出力したレントゲン年齢推定モデル(k)を入力し、モデル記憶部52に書き込む。レントゲン年齢推定装置50は、レントゲン年齢推定対象のレントゲン画像データそれぞれについて、図6の処理を行う。 Next, the process of estimating the Roentgen age will be described. The Roentgen age estimation device 50 estimates the Roentgen age using the Roentgen age estimation model (k) learned by the Roentgen age estimation learning device 10. Figure 6 is a flow diagram showing an example of the process of the Roentgen age estimation device 50. The input unit 51 inputs the Roentgen age estimation model (k) output by the Roentgen age estimation learning device 10 and writes it to the model storage unit 52. The Roentgen age estimation device 50 performs the process shown in Figure 6 for each piece of Roentgen image data to be used for Roentgen age estimation.
入力部51は、レントゲン画像データを入力し、変換部53へ出する(ステップS205)。入力されるレントゲン画像データは、レントゲン年齢を推定する対象の被験者のレントゲン画像データである。入力部51は、さらに、被験者の年齢の情報を入力してもよい。変換部53は、レントゲン年齢推定モデル(k)へ入力する特徴量が得られるように、入力されたレントゲン画像データに所定のデータ変換を行う(ステップS210)。例えば、変換部53は、レントゲン画像データを、所定のデータ形式かつ所定のデータサイズの画像データに変換する。なお、データ変換が不要の場合、レントゲン年齢推定装置50は、ステップS210の処理を行わなくてもよい。 The input unit 51 inputs X-ray image data and outputs it to the conversion unit 53 (step S205). The input X-ray image data is X-ray image data of a subject whose X-ray age is to be estimated. The input unit 51 may also input information about the subject's age. The conversion unit 53 performs a predetermined data conversion on the input X-ray image data so as to obtain feature values to be input into the X-ray age estimation model (k) (step S210). For example, the conversion unit 53 converts the X-ray image data into image data of a predetermined data format and a predetermined data size. Note that if data conversion is not required, the X-ray age estimation device 50 does not need to perform the processing of step S210.
推定部54は、レントゲン画像データから特徴量を取得する。推定部54は、取得した特徴量をレントゲン年齢推定モデル(k)に入力してレントゲン年齢の推定結果を得る(ステップS215)。寄与情報取得部55は、レントゲン年齢推定モデル(k)に入力された特徴量のうち、レントゲン年齢推定モデルを用いたレントゲン年齢の推定に寄与した度合いが所定条件を満たす特徴量が得られたレントゲン画像データの部分を示す寄与情報を得る(ステップS220)。具体的には、寄与情報は、Grad-CAMを用いて生成されたヒートマップである。Grad-CAMにより、寄与情報取得部55は、レントゲン年齢推定モデル(k)による推定を行うときに使用された特徴量が得られた画素の位置と、その特徴量が推定に寄与した度合いとの情報を得る。寄与情報取得部55は、レントゲン画像データに各画素が推定に寄与した度合いを表す色を重ねることによりヒートマップを生成する。なお、寄与情報取得部55は、ヒートマップの生成に、Guided Backpropagationを用いてもよい。出力部56は、推定部54が推定したレントゲン年齢の情報と、寄与情報取得部55が生成したヒートマップとを推定結果として出力する(ステップS225)。実年齢の情報が入力された場合、出力部56は、さらに、レントゲン年齢と実年齢との差分である年齢差の情報を出力してもよい。 The estimation unit 54 acquires features from the X-ray image data. The estimation unit 54 inputs the acquired features into the X-ray age estimation model (k) to obtain an estimated X-ray age (step S215). The contribution information acquisition unit 55 acquires contribution information indicating portions of the X-ray image data from which, among the features input into the X-ray age estimation model (k), feature values whose degree of contribution to the estimation of the X-ray age using the X-ray age estimation model satisfies a predetermined condition (step S220). Specifically, the contribution information is a heat map generated using Grad-CAM. Using Grad-CAM, the contribution information acquisition unit 55 acquires information on the positions of pixels from which feature values used in the estimation using the X-ray age estimation model (k) were obtained and the degree to which the feature values contributed to the estimation. The contribution information acquisition unit 55 generates a heat map by overlaying colors representing the degree to which each pixel contributed to the estimation on the X-ray image data. The contribution information acquisition unit 55 may use guided backpropagation to generate the heat map. The output unit 56 outputs the information on the X-ray age estimated by the estimation unit 54 and the heat map generated by the contribution information acquisition unit 55 as estimation results (step S225). When information on actual age is input, the output unit 56 may further output information on the age difference, which is the difference between the X-ray age and the actual age.
次に、レントゲン年齢推定システム1を用いたレントゲン年齢推定モデルの学習及びレントゲン年齢推定の実施例を説明する。図7は、レントゲン年齢推定システム1を用いた実施例の概要を示す図である。本実施例においては、レントゲン年齢推定モデルに、ResNet18、ResNet34、ResNet50、ResNet101、ResNet152、DenseNet121、DenseNet161、DenseNet169、DenseNet201、Inception-v4、及び、SENet154の11種類のCNNを用いた。転移学習を行うために、これら11種類のそれぞれの学習済みのCNNのモデルM0をImageNet(URL:https://github.com/Cadene/pretrained-models.pytorch)から取得した。モデルM0は、畳み込み部と、全結合部とからなり、画像データを1,000種類のカテゴリに分類する。つまり、モデルM0の出力層は、各カテゴリに対応した1,000個のニューロンからなる。本実施形態で用いるレントゲン年齢推定モデルM1は、モデルM0の畳み込み部をそのまま用い、モデルM0の全結合部を新たな2つの全結合部に置き換えたものである。置き換え後の2つの新たな全結合部は、バッチ正規化(batch-normalization)層、活性化関数にReLU(Rectified Linear Unit)を用いた512ニューロンからなる全結合層、バッチ正規化層、及び、最後の全結合層からなる。最後の全結合層は、胸部レントゲン年齢を出力する1つのニューロンに接続される。 Next, we will explain an example of training the X-ray age estimation model and X-ray age estimation using the X-ray age estimation system 1. Figure 7 is a diagram showing an overview of an example using the X-ray age estimation system 1. In this example, 11 types of CNNs were used for the X-ray age estimation model: ResNet18, ResNet34, ResNet50, ResNet101, ResNet152, DenseNet121, DenseNet161, DenseNet169, DenseNet201, Inception-v4, and SENet154. To perform transfer learning, we obtained trained CNN models M0 for each of these 11 types from ImageNet (URL: https://github.com/Cadene/pretrained-models.pytorch). Model M0 consists of a convolutional section and a fully connected section, and classifies image data into 1,000 categories. In other words, the output layer of model M0 consists of 1,000 neurons corresponding to each category. The X-ray age estimation model M1 used in this embodiment uses the convolutional section of model M0 as is, but replaces the fully connected section of model M0 with two new fully connected sections. The two new fully connected sections after replacement consist of a batch-normalization layer, a fully connected layer consisting of 512 neurons using ReLU (Rectified Linear Unit) as the activation function, a batch normalization layer, and a final fully connected layer. The final fully connected layer is connected to a single neuron that outputs the chest X-ray age.
また本実施例では、国立衛生研究所が提供している胸部レントゲン画像データのデータベースA(https://cloud.google.com/healthcare/docs/resources/public-datasets/nih-chest)を、学習データ、検証データ及びテストデータとして用いた。テストデータは、レントゲン年齢推定学習装置10により学習されたレントゲン年齢推定モデルの精度を評価するために用いられるデータであり、レントゲン年齢推定装置50に入力される入力データに相当する。データベースAは、主に米国人の患者のデータである。データベースAに含まれる30,805人の患者の112,120枚の胸部レントゲン画像データのうち、63328枚が男性のものである。このデータベースAの胸部レントゲン画像データから、年齢が100歳以上の患者の16枚を除いたのち、残りの胸部レントゲン画像データをランダムに学習データ、検証データ及びテストデータに分けた。これにより、28,029人の患者の102,029枚の胸部レントゲン画像データが学習データD1に、2,523人分の胸部レントゲン画像データが検証データD2に、250人の患者の613枚の胸部レントゲン画像データがテストデータD3に分けられた。 In this example, Database A of chest X-ray image data provided by the National Institutes of Health (https://cloud.google.com/healthcare/docs/resources/public-datasets/nih-chest) was used as the training data, validation data, and test data. The test data is data used to evaluate the accuracy of the X-ray age estimation model trained by the X-ray age estimation learning device 10, and corresponds to the input data input to the X-ray age estimation device 50. Database A contains data mainly from American patients. Of the 112,120 chest X-ray image data of 30,805 patients included in Database A, 63,328 are male. After removing 16 chest X-ray image data of patients over 100 years old from Database A, the remaining chest X-ray image data was randomly divided into training data, validation data, and test data. As a result, 102,029 chest X-ray image data from 28,029 patients were divided into training data D1, chest X-ray image data from 2,523 patients into verification data D2, and 613 chest X-ray image data from 250 patients into test data D3.
また、体格が異なる母集団における推定精度を評価するため、公益社団法人 日本放射線技術学会(JSRT)が提供する胸部レントゲン画像データのデータベースB(http://db.jsrt.or.jp/eng.php)をさらにテストデータに用いた。データベースBは、日本人の患者のデータである。データベースBに含まれる247人の患者の247枚の胸部レントゲン画像データから性別及び年齢が不明の2枚を除き、245人の患者の245枚の画像データをテストデータD4とした。テストデータD4のうち118枚が男性のものである。 In addition, to evaluate the estimation accuracy in a population with different physiques, Database B (http://db.jsrt.or.jp/eng.php) of chest X-ray image data provided by the Japanese Society of Radiological Technology (JSRT), a public interest incorporated association, was used as further test data. Database B contains data from Japanese patients. Of the 247 chest X-ray image data from 247 patients included in Database B, two images for which the gender and age were unknown were excluded, leaving 245 image data from 245 patients as test data D4. Of the test data D4, 118 images were from men.
さらに、1,562人の心疾患により入院した患者の胸部レントゲン画像データを含むデータベースCをテストデータD5に用いた。データベースCは、入院から2日以内に撮影された胸部レントゲン画像データを含む。テストデータD5のデータのうち、920枚が男性のものである。データベースA及びデータベースBの胸部レントゲン画像データには、その胸部レントゲン画像データが撮影されたときの年齢及び性別の情報のほか、所見の情報が付加されている。データベースCの胸部レントゲン画像データには、年齢及び性別に加え、データベースA及びデータベースBよりも詳細な診療データが付加されている。診療データは、臨床的な背景や、心疾患による再入院や、死亡などのイベントの情報が含まれる。 Furthermore, Database C, which contains chest X-ray image data of 1,562 patients hospitalized due to cardiac disease, was used as test data D5. Database C contains chest X-ray image data taken within two days of admission. Of the data in test data D5, 920 are from men. The chest X-ray image data in Databases A and B includes information on the age and gender at the time the chest X-ray image data was taken, as well as information on findings. In addition to age and gender, the chest X-ray image data in Database C includes more detailed medical data than Databases A and B. The medical data includes information on clinical background and events such as re-hospitalization due to cardiac disease and death.
図8は、レントゲン年齢推定システムが用いたデータが示す年齢構成を示す図である。図8(a)、図8(b)、図8(c)はそれぞれ、データベースA、データベースB、及び、データベースCそれぞれの年齢のヒストグラムを示す。データベースAの年齢の範囲は1歳から95歳、中央値は49歳、四分位範囲は35~39歳である。データベースCの年齢の範囲は18歳から98歳、中央値は78歳、四分位範囲は69~84歳である。 Figure 8 shows the age structure shown in the data used by the X-ray age estimation system. Figures 8(a), 8(b), and 8(c) show histograms of ages for Database A, Database B, and Database C, respectively. The age range for Database A is 1 to 95 years, with a median of 49 years and an interquartile range of 35 to 39 years. The age range for Database C is 18 to 98 years, with a median of 78 years and an interquartile range of 69 to 84 years.
本実施例において、変換部13及び変換部53は、胸部レントゲン画像データを、320×320ピクセルのpng形式の画像データに変換した(図5のステップS105、図6のステップS210)。また、学習データ生成部14は、データベースAから得られた学習データに含まれる胸部レントゲン画像データが示す画像に、ランダムパディング及び回転を行って追加の学習データを生成した(図5のステップS110)。回転は、-20度~20度の間でランダムに行い、画像の反転は行わなかった。また、更新部17は、図5のステップS120及びステップS125において、以下の式(1)に示すMSE(mean square error;平均二乗誤差)を損失関数として用い、パラメータの値を更新した。なお、nは、学習データの数である。yiは、学習データが示す正解の年齢(実年齢)であり、y^ iはその学習データに含まれる胸部レントゲン画像データから推定された胸部レントゲン年齢である。 In this embodiment, the conversion unit 13 and the conversion unit 53 converted the chest X-ray image data into 320 x 320 pixel PNG image data (step S105 in FIG. 5 and step S210 in FIG. 6). The training data generation unit 14 generated additional training data by randomly padding and rotating the image represented by the chest X-ray image data included in the training data obtained from Database A (step S110 in FIG. 5). The rotation was performed randomly between -20 degrees and 20 degrees, and the image was not inverted. In steps S120 and S125 in FIG. 5, the update unit 17 updated the parameter values using the MSE (mean square error) shown in the following equation (1) as a loss function. Here, n is the number of training data. y i is the correct age (chronological age) indicated by the training data, and y ^ i is the chest X-ray age estimated from the chest X-ray image data included in the training data.
また、更新部17は、図5のステップS120及びステップS125において、最適化アルゴリズムとして、Adam(Adaptive Moment Estimation)及びCLR(Cyclical Learning Rate)を用いた。 Furthermore, the update unit 17 used Adam (Adaptive Moment Estimation) and CLR (Cyclical Learning Rate) as optimization algorithms in steps S120 and S125 of FIG. 5.
図9は、各レントゲン年齢推定モデルの推定精度を示す図である。図9は、レントゲン年齢推定学習装置10が、学習データD1を用いて学習した11種類の済みのレントゲン年齢推定モデルそれぞれに、検証データD2を用いて図5のステップS140の処理を行って得られた評価指標の値を示す。評価指標は、MSE、RMSE、実年齢と胸部レントゲン年齢とのピアソンの相関係数r(R)、MAEである。図9から、SENet154の推定精度が最も高いことがわかる。 Figure 9 shows the estimation accuracy of each X-ray age estimation model. Figure 9 shows the values of the evaluation indices obtained by performing the process of step S140 in Figure 5 using verification data D2 for each of the 11 types of X-ray age estimation models trained by the X-ray age estimation learning device 10 using training data D1. The evaluation indices are MSE, RMSE, Pearson's correlation coefficient r(R) between actual age and chest X-ray age, and MAE. Figure 9 shows that SENet154 has the highest estimation accuracy.
図10は、検証データD2を用いて得られた胸部レントゲン年齢と実年齢との対応を示す図である。図10は、レントゲン年齢推定学習装置10が、SENet154を用いた学習済みのレントゲン年齢推定モデルに、検証データD2に含まれる胸部レントゲン画像データから得られた特徴量を入力して得た胸部レントゲン年齢と、検証データD2が示す実年齢との対応をプロットしたものである。ピアソンの相関係数のr値(R)は0.9516、p値(P)は2.2×10-323未満であった。 10 is a diagram showing the correspondence between chest X-ray ages obtained using verification data D2 and chronological ages. Figure 10 plots the correspondence between chest X-ray ages obtained by inputting feature quantities obtained from chest X-ray image data included in verification data D2 into a trained X-ray age estimation model using SENet154, and chronological ages indicated by the verification data D2. The Pearson correlation coefficient r value (R) was 0.9516, and the p value (P) was less than 2.2 × 10 −323 .
図11は、テストデータD3、D4を用いて得られた胸部レントゲン年齢と実年齢の対応を示す図である。図11(a)は、レントゲン年齢推定装置50がテストデータD3を入力に用いて得た胸部レントゲン年齢と、テストデータD3が示す実年齢との対応をプロットしたものである。図11(b)は、レントゲン年齢推定装置50がテストデータD4を入力に用いて得た胸部レントゲン年齢と、テストデータD4が示す実年齢との対応をプロットしたものである。図11(a)及び図11(b)では、胸部レントゲン年齢の推定に、SENet154を用いた学習済みのレントゲン年齢推定モデルを用いた。 Figure 11 shows the correspondence between chest X-ray ages obtained using test data D3 and D4 and actual ages. Figure 11(a) plots the correspondence between chest X-ray ages obtained by the X-ray age estimation device 50 using test data D3 as input and actual ages indicated by test data D3. Figure 11(b) plots the correspondence between chest X-ray ages obtained by the X-ray age estimation device 50 using test data D4 as input and actual ages indicated by test data D4. In Figures 11(a) and 11(b), a trained X-ray age estimation model using SENet154 was used to estimate chest X-ray ages.
図11(a)及び図11(b)に示すように、レントゲン年齢推定装置50が推定した胸部レントゲン年齢と実年齢とには、非常に強い相関が見受けられる。テストデータD3の場合、ピアソンの相関係数のr値(R)は0.961、p値(P)は2.2×10-323未満であり、胸部レントゲン年齢と実年齢とのMAEは3.79歳であった。また、テストデータD4の場合、ピアソンの相関係数のr値(R)は0.916、p値(P)=1.51×10-98であり、胸部レントゲン年齢と実年齢とのMAEは4.56歳であった。図11(c)は、4人の経験豊かな医師が胸部レントゲン画像に基づいて推定した年齢の平均と、実年齢との対応をプロットしたものである。医師による推定年齢と実年齢とには関連がみられるものの、レントゲン年齢推定装置50による推定結果の精度のほうが良いことがわかる。 As shown in Figures 11(a) and 11(b), a very strong correlation is observed between the chest X-ray age estimated by the X-ray age estimation device 50 and the actual age. For test data D3, the r value (R) of the Pearson correlation coefficient was 0.961, the p value (P) was less than 2.2 x 10-323 , and the mean average average age (MAE) between the chest X-ray age and the actual age was 3.79 years. For test data D4, the r value (R) of the Pearson correlation coefficient was 0.916, the p value (P) was 1.51 x 10-98 , and the mean average average age (MAE) between the chest X-ray age and the actual age was 4.56 years. Figure 11(c) plots the average ages estimated by four experienced physicians based on chest X-ray images and their correspondence with the actual ages. Although a correlation is observed between the physician-estimated ages and the actual ages, it can be seen that the accuracy of the estimation results by the X-ray age estimation device 50 is higher.
図12は、レントゲン年齢推定装置50が出力したヒートマップを示す図である。図12(a)は、レントゲン年齢推定装置50の寄与情報取得部55に、Grad-CAMを用いた場合のヒートマップである。図12(b)は、レントゲン年齢推定装置50の寄与情報取得部55に、Guided Grad-CAMを用いた場合のヒートマップである。図12(a)及び図12(b)によれば、縦隔の上部付近と胸郭の外周が推定に大きく寄与しており、大動脈の形状及び石灰化が胸部レントゲン年齢の推定に影響していることが考えられる。 Figure 12 shows heat maps output by the radiographic age estimation device 50. Figure 12(a) is a heat map when Grad-CAM is used in the contribution information acquisition unit 55 of the radiographic age estimation device 50. Figure 12(b) is a heat map when Guided Grad-CAM is used in the contribution information acquisition unit 55 of the radiographic age estimation device 50. According to Figures 12(a) and 12(b), the upper part of the mediastinum and the circumference of the thorax contribute significantly to the estimation, and it is thought that the shape and calcification of the aorta affect the estimation of chest radiographic age.
図13は、年齢差と所見ありのオッズ比との関係を示す図である。年齢差は、レントゲン年齢推定装置50がテストデータD3及びD4を用いて得た胸部レントゲン年齢と実年齢との差分である。レントゲン年齢推定装置50は、胸部レントゲン年齢の推定に、SENet154を用いた学習済みのレントゲン年齢推定モデルを用いた。また、図13には、ログスケールでの95%信頼区間を示している。図13は、年齢差が大きいほど、所見ありのオッズ比が上昇していることを示している。 Figure 13 shows the relationship between age difference and the odds ratio of findings. The age difference is the difference between the chest X-ray age obtained by the X-ray age estimation device 50 using test data D3 and D4 and the actual age. The X-ray age estimation device 50 used a trained X-ray age estimation model using SENet154 to estimate the chest X-ray age. Figure 13 also shows the 95% confidence interval on a log scale. Figure 13 shows that the larger the age difference, the higher the odds ratio of findings.
図14は、年齢差と心不全のアウトカムとの関係を示す図である。年齢差は、レントゲン年齢推定装置50がテストデータD5を用いて得た胸部レントゲン年齢と実年齢との差分である。レントゲン年齢推定装置50は、胸部レントゲン年齢の推定に、SENet154を用いた学習済みのレントゲン年齢推定モデルを用いた。テストデータD5を用いて得られた胸部レントゲン年齢の推定精度は低下した。しかしながら、ピアソンの相関係数のr値は0.796、p値は4.6×10-291であり、強い相関が確認された。 FIG. 14 shows the relationship between age difference and heart failure outcomes. The age difference is the difference between the chest X-ray age obtained by the X-ray age estimation device 50 using test data D5 and the actual age. The X-ray age estimation device 50 used a trained X-ray age estimation model using SENet154 to estimate the chest X-ray age. The estimation accuracy of the chest X-ray age obtained using test data D5 decreased. However, the Pearson correlation coefficient r value was 0.796 and the p value was 4.6 × 10 −291 , confirming a strong correlation.
さらに、テストデータD5を、年齢差に基づいて、胸部レントゲン年齢の方が若いグループG1と、胸部レントゲン年齢と実年齢とがほぼ同じグループG2と、胸部レントゲン年齢の方が高いグループG3との3つのグループに分離した。グループG1及びグループG3はそれぞれ全体の20%、グループG2は全体の60%である。そして、グループ毎に、テストデータD5に付加されている診療データに基づいてイベントなし生存率を算出した。ここでのイベントは、心不全による再入院、心臓移植、あらゆる原因による死亡の複合エンドポイントとした。図14は、グループ別のイベントなし生存率の経時的な変化を示している。図14から、実年齢が胸部レントゲン年齢よりも若いほど、イベントなし生存率が高く、実年齢が胸部レントゲン年齢よりも高いほどイベントなし生存率が低くなることがわかる。このように、心不全患者において、胸部レントゲン年齢を用いて、予後(心血管イベント発生の有無)を層別化できる。従って、胸部レントゲン年齢と実年齢の年齢差は、健常人の胸部レントゲン所見の見落とし防止に有用である。さらには、年齢差は疾患の重症度を表すため、胸部レントゲン年齢は、疾患治療の方針決定に役立つと考えられる。 Furthermore, test data D5 was separated into three groups based on age difference: group G1, whose chest X-ray age was younger; group G2, whose chest X-ray age was approximately the same as their chronological age; and group G3, whose chest X-ray age was older. Groups G1 and G3 each accounted for 20% of the total, and group G2 accounted for 60% of the total. Event-free survival rates were calculated for each group based on the medical data included in test data D5. Events were defined as a composite endpoint consisting of rehospitalization due to heart failure, heart transplant, and death from any cause. Figure 14 shows the change in event-free survival rates over time by group. Figure 14 indicates that the younger the chronological age was compared to the chest X-ray age, the higher the event-free survival rate, and the higher the chronological age was compared to the chest X-ray age, the lower the event-free survival rate. Thus, chest X-ray age can be used to stratify prognosis (presence or absence of cardiovascular events) in heart failure patients. Therefore, the age difference between chest X-ray age and chronological age is useful for preventing overlooking chest X-ray findings in healthy individuals. Furthermore, because the age difference indicates the severity of the disease, chest X-ray age is thought to be useful in determining disease treatment policies.
上述したレントゲン年齢推定装置50を適用したシステムの例を説明する。
図15は、レントゲン撮影システム100の構成を示す図である。レントゲン撮影システム100は、入力部110と、レントゲン撮影装置120と、レントゲン年齢推定装置130と、出力部140とを有する。レントゲン年齢推定装置130は、上述したレントゲン年齢推定装置50である。
An example of a system to which the above-described X-ray age estimation device 50 is applied will be described.
15 is a diagram showing the configuration of an X-ray imaging system 100. The X-ray imaging system 100 has an input unit 110, an X-ray imaging device 120, a X-ray age estimation device 130, and an output unit 140. The X-ray age estimation device 130 is the X-ray age estimation device 50 described above.
入力部110は、レントゲン撮影システム100に対する指示を入力したり、各種情報を入力したりするユーザインタフェースである。入力部110は、例えば、ボタン、タッチパネル、キーボード、バーコードリーダなどである。入力部110は、レントゲン撮影システム100とネットワークを介して接続される他の装置から情報を受信してもよく、記録媒体から情報を読み込んでもよい。入力部110に入力される各種情報は、被験者情報を含む。被験者情報は、例えば、被験者の識別情報、氏名、生年月日、実年齢などの情報を含む。 The input unit 110 is a user interface for inputting instructions to the X-ray imaging system 100 and inputting various types of information. The input unit 110 is, for example, a button, a touch panel, a keyboard, a barcode reader, etc. The input unit 110 may receive information from other devices connected to the X-ray imaging system 100 via a network, or may read information from a recording medium. The various types of information input to the input unit 110 include subject information. The subject information includes, for example, the subject's identification information, name, date of birth, actual age, and other information.
レントゲン撮影装置120は、被験者のレントゲン撮影を行う従来の装置である。レントゲン撮影装置120は、入力部110により入力された指示に従って、レントゲン撮影を行う。レントゲン撮影装置120は、レントゲン撮影により得られた被験者のレントゲン画像データをレントゲン年齢推定装置130に出力する。レントゲン画像データには、撮影日時の情報が付加される。 The X-ray imaging device 120 is a conventional device for taking X-ray images of a subject. The X-ray imaging device 120 takes X-ray images in accordance with instructions input via the input unit 110. The X-ray imaging device 120 outputs X-ray image data of the subject obtained by the X-ray imaging to the X-ray age estimation device 130. Information on the date and time of imaging is added to the X-ray image data.
レントゲン年齢推定装置130は、上述したレントゲン年齢推定装置50である。入力部110がレントゲン年齢推定装置50の入力部51を兼ねる場合、レントゲン年齢推定装置130は、レントゲン年齢推定装置50から入力部51を除いた構成でもよい。また、出力部140がレントゲン年齢推定装置50の出力部56を兼ねる場合、レントゲン年齢推定装置130は、レントゲン年齢推定装置50から出力部56を除いた構成でもよい。レントゲン年齢推定装置130は、レントゲン撮影装置120から出力されたレントゲン画像データと、入力部110により入力された被験者情報に含まれる実年齢の情報とを入力し、図6に示すレントゲン年齢の推定処理を行う。なお、レントゲン年齢推定装置130は、被験者情報に含まれる生年月日の情報と、レントゲン画像データに付加された撮影日時の情報とを用いて実年齢の情報を算出してもよい。レントゲン年齢推定装置130は、図6のステップS225において、レントゲン年齢の情報と、年齢差の情報と、ヒートマップとを、出力部140に出力する。 The Roentgen age estimation device 130 is the Roentgen age estimation device 50 described above. If the input unit 110 also serves as the input unit 51 of the Roentgen age estimation device 50, the Roentgen age estimation device 130 may be configured from the Roentgen age estimation device 50 without the input unit 51. Furthermore, if the output unit 140 also serves as the output unit 56 of the Roentgen age estimation device 50, the Roentgen age estimation device 130 may be configured from the Roentgen age estimation device 50 without the output unit 56. The Roentgen age estimation device 130 inputs the Roentgen image data output from the Roentgen imaging device 120 and the actual age information included in the subject information input by the input unit 110, and performs the Roentgen age estimation process shown in FIG. 6. The Roentgen age estimation device 130 may also calculate the actual age information using the date of birth information included in the subject information and the shooting date and time information added to the Roentgen image data. In step S225 of FIG. 6, the X-ray age estimation device 130 outputs the X-ray age information, age difference information, and heat map to the output unit 140.
出力部140は、各種データを出力する。出力は、例えば、ディスプレイへの表示、プリンタによる印刷、記録媒体への書き込み、レントゲン撮影システム100とネットワークを介して接続される他の装置への送信である。出力部140は、レントゲン撮影装置120から出力されたレントゲン画像データと、入力部110により入力された被験者情報と、レントゲン年齢推定装置130から出力されたレントゲン年齢の情報、年齢差の情報及びヒートマップとを含む検査結果データを出力する。例えば、出力部140は、レントゲン撮影装置120によりレントゲン画像の撮影を行う度に、検査結果データの全て、あるいは、レントゲン年齢の情報又は年齢差の情報を少なくとも含む検査結果データの一部をディスプレイに表示する。さらに、出力部140は、検査結果データを記録媒体に書き込んだり、他の装置へ送信したりする。 The output unit 140 outputs various types of data. Examples of output include displaying on a display, printing on a printer, writing to a recording medium, and transmitting to another device connected to the X-ray imaging system 100 via a network. The output unit 140 outputs test result data including X-ray image data output from the X-ray imaging device 120, subject information input by the input unit 110, and X-ray age information, age difference information, and a heat map output from the X-ray age estimation device 130. For example, each time an X-ray image is taken using the X-ray imaging device 120, the output unit 140 displays all of the test result data, or part of the test result data including at least the X-ray age information or age difference information, on the display. Furthermore, the output unit 140 writes the test result data to a recording medium or transmits it to another device.
なお、レントゲン年齢推定装置130に、実年齢の情報を入力しなくてもよい。この場合、レントゲン年齢推定装置130から年齢差の情報が出力されない。出力部140は、被験者情報が示す実年齢の情報と、レントゲン年齢推定装置130から出力されたレントゲン年齢の情報との差分により年齢差の情報を算出する。 Note that actual age information does not need to be input to the X-ray age estimation device 130. In this case, age difference information is not output from the X-ray age estimation device 130. The output unit 140 calculates age difference information by calculating the difference between the actual age information indicated in the subject information and the X-ray age information output from the X-ray age estimation device 130.
図16は、評価システム200の構成を示す図である。評価システム200は、レントゲン年齢推定装置210と、評価装置220とを有する。レントゲン年齢推定装置210は、上述した実施形態のレントゲン年齢推定装置50である。後述する評価装置220の入力部230がレントゲン年齢推定装置50の入力部51を兼ねる場合、レントゲン年齢推定装置210は、レントゲン年齢推定装置50から入力部51を除いた構成でもよい。また、後述する評価装置220の出力部250がレントゲン年齢推定装置50の出力部56を兼ねる場合、レントゲン年齢推定装置210は、レントゲン年齢推定装置50から出力部56を除いた構成でもよい。レントゲン年齢推定装置210は、図6の処理を行って得られた被験者のレントゲン年齢の情報を評価装置220に出力する。レントゲン年齢推定装置210は、レントゲン年齢に代えて又は加えて、被験者の実年齢とレントゲン年齢との年齢差の情報を評価装置220に出力してもよい。 Figure 16 is a diagram showing the configuration of the evaluation system 200. The evaluation system 200 has a Roentgen age estimation device 210 and an evaluation device 220. The Roentgen age estimation device 210 is the Roentgen age estimation device 50 of the embodiment described above. If the input unit 230 of the evaluation device 220 (described later) also serves as the input unit 51 of the Roentgen age estimation device 50, the Roentgen age estimation device 210 may be configured from the Roentgen age estimation device 50 without the input unit 51. Furthermore, if the output unit 250 of the evaluation device 220 (described later) also serves as the output unit 56 of the Roentgen age estimation device 50, the Roentgen age estimation device 210 may be configured from the Roentgen age estimation device 50 without the output unit 56. The Roentgen age estimation device 210 outputs information on the Roentgen age of the subject obtained by performing the processing of Figure 6 to the evaluation device 220. The Roentgen age estimation device 210 may output information on the age difference between the subject's actual age and Roentgen age to the evaluation device 220, instead of or in addition to the Roentgen age.
評価装置220は、レントゲン年齢推定装置210が推定した被験者のレントゲン年齢と、被験者の生体又は生活習慣に関する情報又は当該情報を表す数値とを用いて所定の演算を行った結果に基づいて、被験者の疾病又は病態に関する評価を行う。評価装置220は、レントゲン年齢に代えて又は加えて、被験者の年齢差の情報を用いて評価を行ってもよい。評価装置220は、一例として、図4に示すコンピュータ80により実現される。この場合、コンピュータ80の記憶部82は、コンピュータ80を評価装置220として機能させるためのプログラムを記憶する。評価装置220の機能の全て又は一部は、ASICやPLD等のハードウェアを用いて実現されてもよい。 The evaluation device 220 evaluates the subject's disease or pathological condition based on the results of a predetermined calculation using the subject's X-ray age estimated by the X-ray age estimation device 210 and information about the subject's biology or lifestyle, or a numerical value representing that information. The evaluation device 220 may also use information about the subject's age difference instead of or in addition to the X-ray age to perform the evaluation. As an example, the evaluation device 220 is realized by the computer 80 shown in FIG. 4. In this case, the memory unit 82 of the computer 80 stores a program for causing the computer 80 to function as the evaluation device 220. All or part of the functions of the evaluation device 220 may be realized using hardware such as an ASIC or PLD.
ここで、レントゲン年齢及び年齢差の情報を用いない従来の評価の例を説明する。一例として、今後の狭心症・心筋梗塞などの発症を予測する吹田スコアがある(例えば、http://www.ncvc.go.jp/pr/release/006484.html参照)。吹田スコアでは、危険因子に、年齢、性別、現在喫煙、糖尿病、血圧、LDLコレステロール、HDLコレステロール、CKD(慢性腎臓病)など、被験者の生体に関する情報や、生活習慣に関する情報を用いる。これらの危険因子の種類毎に被験者に得点を付与し、それら得点の合計点に基づいて、その被験者の10年間の冠動脈疾患発症確率を得る。得点の付与方法は、各危険因子の種類に応じて決められる。例えば、年齢の場合、35~44歳、45~54歳、…のようにカテゴライズされた段階的な数値範囲のいずれに属するかに応じて離散的な得点が決定される。また、血圧の場合、至適血圧、正常血圧、Stage1高血圧、Stage2以上高血圧など、血圧の状態に応じた離散的な得点が決定される。また、CKDの場合、Stage1or2(eGFR≧60)、Stage3(eGFR30~<60)、Stage4or5(eGFR<30)のように、eGFR(推算糸球体濾過量)の値に応じた状態に基づいてカテゴライズされたカテゴリのうちいずれに属するかにより離散的な得点が決定される。このように、一部の種類の危険因子では、その危険因子の数値や状態が属するカテゴリによって得点が決定される。また、一部の種類の危険因子では、その危険因子に該当するか否かによって得点が異なる。例えば、現在喫煙している場合に所定の得点が付与され、現在喫煙していない場合は付与されない、換言すれば0点が付与される。 Here, we will explain an example of a conventional assessment that does not use information on X-ray age or age difference. One example is the Suita Score, which predicts the future onset of angina pectoris, myocardial infarction, and other conditions (see, for example, http://www.ncvc.go.jp/pr/release/006484.html). The Suita Score uses risk factors, such as age, gender, current smoking, diabetes, blood pressure, LDL cholesterol, HDL cholesterol, and CKD (chronic kidney disease), as well as information about the subject's biological and lifestyle characteristics. A score is assigned to each subject for each type of risk factor, and the subject's 10-year probability of developing coronary artery disease is calculated based on the total score. The scoring method is determined according to the type of risk factor. For example, for age, a discrete score is assigned depending on whether the subject belongs to a tiered range of values categorized as 35-44 years, 45-54 years, etc. For blood pressure, a discrete score is assigned depending on the blood pressure status, such as optimal blood pressure, normal blood pressure, Stage 1 hypertension, or Stage 2 or higher hypertension. In the case of CKD, a discrete score is determined depending on which category the individual falls into, categorized based on the state according to the eGFR (estimated glomerular filtration rate) value, such as Stage 1 or 2 (eGFR≧60), Stage 3 (eGFR 30 to <60), or Stage 4 or 5 (eGFR<30). In this way, for some types of risk factors, the score is determined based on the category to which the value or state of the risk factor belongs. Furthermore, for some types of risk factors, the score differs depending on whether or not the individual corresponds to that risk factor. For example, if the individual currently smokes, a predetermined score is assigned, and if the individual currently does not smoke, no score is assigned; in other words, a score of 0 is assigned.
また、他の例として、非弁膜症性心房細動における脳梗塞のリスク評価に用いられるCHADS2スコア、CHA2DS2-VAScスコア(例えば、https://www.jhf.or.jp/pro/hint/c3/hint005.html参照)がある。CHADS2スコアは、心不全、高血圧、75歳以上、糖尿病、及び、脳梗塞/一過性脳虚血発作それぞれの危険因子の有無に応じた得点を合計したリスク評価値である。CHA2DS2-VAScスコアは、さらに、危険因子に、65歳以上74歳以下の年齢、血管疾患合併例、性別を加え、各危険因子の有無に応じた得点を合計したリスク評価値である。 Other examples include the CHADS 2 score and the CHA 2 DS 2 -VASc score (see, for example, https://www.jhf.or.jp/pro/hint/c3/hint005.html), which are used to assess the risk of cerebral infarction in non-valvular atrial fibrillation. The CHADS 2 score is a risk assessment value obtained by adding up scores based on the presence or absence of each risk factor: heart failure, hypertension, age 75 or older, diabetes, and cerebral infarction/transient ischemic attack. The CHA 2 DS 2 -VASc score is a risk assessment value obtained by adding up scores based on the presence or absence of each risk factor, including age 65 to 74, vascular disease, and gender.
上記の例の評価値は、評価を行う対象に関連する各危険因子に対応した評価パラメータを加算するという予め決められた算出式に、各評価パラメータの値を代入することより算出される。各評価パラメータの値は、評価パラメータに対応した危険因子、すなわち、被験者の生体又は生活習慣に関する情報に基づいて決定される。 The evaluation value in the above example is calculated by substituting the value of each evaluation parameter into a predetermined calculation formula that adds up evaluation parameters corresponding to each risk factor related to the subject being evaluated. The value of each evaluation parameter is determined based on the risk factor corresponding to the evaluation parameter, i.e., information about the subject's biology or lifestyle.
本実施形態の評価装置220は、レントゲン年齢推定装置210が推定した被験者のレントゲン年齢に応じた評価パラメータと、被験者の生体又は生活習慣に関する情報に応じた評価パラメータとを用いた所定の算出式の演算により、疾患又は病態に関する評価を行うための評価値を算出する。なお、レントゲン年齢に代えて又は加えて、レントゲン年齢と実年齢との年齢差に応じた評価パラメータを評価値の算出に用いてもよい。 The evaluation device 220 of this embodiment calculates an evaluation value for evaluating a disease or pathological condition by calculating a predetermined calculation formula using evaluation parameters corresponding to the subject's X-ray age estimated by the X-ray age estimation device 210 and evaluation parameters corresponding to information related to the subject's biology or lifestyle. Note that instead of or in addition to the X-ray age, an evaluation parameter corresponding to the age difference between the X-ray age and the actual age may be used to calculate the evaluation value.
評価装置220は、入力部230と、評価部240と、出力部250とを有する。入力部230は、データを入力する。入力は、キーボードやマウス、タッチパネルなどのユーザインタフェースを用いてもよく、ネットワークを介して接続される他の装置からの受信でもよく、記録媒体からの読み込みでもよい。入力部230は、被験者の評価パラメータに応じた生体又は生活習慣に関する情報を入力し、さらに、レントゲン年齢推定装置210が出力したレントゲン年齢の情報と年齢差の情報との一方又は両方を入力する。入力部230は、入力した値を評価部240に出力する。 The evaluation device 220 has an input unit 230, an evaluation unit 240, and an output unit 250. The input unit 230 inputs data. The input may be via a user interface such as a keyboard, mouse, or touch panel, or may be received from another device connected via a network, or read from a recording medium. The input unit 230 inputs information about the subject's biological or lifestyle habits according to the evaluation parameters, and further inputs one or both of the X-ray age information and age difference information output by the X-ray age estimation device 210. The input unit 230 outputs the input values to the evaluation unit 240.
評価部240は、レントゲン年齢推定装置210からレントゲン年齢の情報が入力された場合、レントゲン年齢に対応した評価パラメータに、レントゲン年齢に応じた値を設定する。同様に、評価部240は、レントゲン年齢推定装置210から年齢差の情報が入力された場合、年齢差に対応した評価パラメータに、年齢差に応じた値を設定する。なお、評価部240は、レントゲン年齢推定装置210から入力されたレントゲン年齢と、入力部230により入力された実年齢との差分により年齢差を算出してもよい。このように、年齢差は、レントゲン年齢に所定の演算を行って得られる情報でもある。さらに、評価部240は、被験者の生体又は生活習慣に関する各情報に対応した評価パラメータそれぞれに、その情報に対応した値を設定する。生体に関する情報の例は、年齢、性別、各種臨床検査の検査結果、各種臨床検査の検査結果に基づいて分類された状態、過去の各種疾患、現在の各種疾患などの情報であるが、これらに限定されない。また、生活に関する情報の例は、喫煙、睡眠時間、食事などの情報であるが、これらに限定されない。 When the evaluation unit 240 receives information about the Roentgen age from the Roentgen age estimation device 210, it sets a value corresponding to the Roentgen age for the evaluation parameter corresponding to the Roentgen age. Similarly, when the evaluation unit 240 receives information about the age difference from the Roentgen age estimation device 210, it sets a value corresponding to the age difference for the evaluation parameter corresponding to the age difference. The evaluation unit 240 may also calculate the age difference as the difference between the Roentgen age input from the Roentgen age estimation device 210 and the actual age input by the input unit 230. In this way, the age difference can also be information obtained by performing a predetermined calculation on the Roentgen age. Furthermore, the evaluation unit 240 sets a value corresponding to each piece of information about the subject's biological or lifestyle habits for each evaluation parameter. Examples of biological information include, but are not limited to, age, gender, test results from various clinical tests, conditions classified based on the test results from various clinical tests, various past diseases, and various current diseases. Examples of lifestyle information include, but are not limited to, smoking, sleep time, and diet.
評価パラメータに設定される値は、例えば、評価パラメータに対応する情報が示す値、評価パラメータに対応する情報が示す状態に応じた値、評価パラメータに対応する情報が示す値又状態が属するカテゴリに応じた値、評価パラメータに対応する情報が示す値に所定の演算を行った値、評価パラメータに対応する情報に該当するか否かに応じた値である。評価部240は、レントゲン年齢の値をそのまま評価パラメータ値としてもよく、レントゲン年齢がカテゴライズされた範囲(例えば、a1歳未満、a1歳~a2歳、a2歳~a3歳、…など)のうちいずれに属するかに応じた評価パラメータ値としてもよい。また、例えば、評価部240は、年齢差の値をそのまま評価パラメータ値としてもよく、年齢差がカテゴライズされた範囲(例えば、b歳以上、b歳~-b歳、-b歳以下など)のうちいずれに属するかに応じた評価パラメータ値としてもよい。 The value set for the evaluation parameter may be, for example, a value indicated by the information corresponding to the evaluation parameter, a value corresponding to the state indicated by the information corresponding to the evaluation parameter, a value corresponding to the category to which the value or state indicated by the information corresponding to the evaluation parameter belongs, a value obtained by performing a predetermined calculation on the value indicated by the information corresponding to the evaluation parameter, or a value corresponding to whether or not the evaluation parameter corresponds to the information corresponding to the evaluation parameter. The evaluation unit 240 may use the value of the X-ray age as the evaluation parameter value directly, or may use the value as an evaluation parameter value corresponding to which of the categorized ranges the X-ray age falls (e.g., under a1 year old, a1 to a2 years old, a2 to a3 years old, etc.). Furthermore, for example, the evaluation unit 240 may use the value of the age difference as the evaluation parameter value directly, or may use the value as an evaluation parameter value corresponding to which of the categorized ranges the age difference falls (e.g., b years or older, b to -b years old, -b years or younger, etc.).
評価部240は、評価対象の評価を定量的な値で表す評価値を、各評価パラメータを用いて算出する算出式に、各評価パラメータの値を代入して評価値を算出する。算出式の例は、評価パラメータの加算であるがこれに限定されず、任意の算出式が用いられる。算出式が評価パラメータの重み付け加算である場合、レントゲン年齢又は年齢差に対応した評価パラメータの値に応じて、他の評価パラメータに対する重みを決定してもよい。評価対象は、疾患又は病態の重症度、予後予測などの疾患又は病態に関する情報である。また、評価部240は、評価値と評価(例えば、リスク低/中/高や、x1%/x2%/…など)との対応付けを予め記憶し、算出した評価値に対応した評価を得てもよい。出力部250は、評価部240が算出した評価値と、評価値に対応した評価との一方又は両方を評価結果として出力部250に出力する。 The evaluation unit 240 calculates an evaluation value, which quantitatively represents the evaluation of the evaluation target, by substituting the value of each evaluation parameter into a calculation formula that uses each evaluation parameter. An example of the calculation formula is the addition of evaluation parameters, but this is not limited to this; any calculation formula can be used. If the calculation formula is a weighted addition of evaluation parameters, the weight for other evaluation parameters may be determined according to the value of an evaluation parameter corresponding to the X-ray age or age difference. The evaluation target is information related to the disease or pathological condition, such as the severity of the disease or pathological condition, or a predicted prognosis. The evaluation unit 240 may also pre-store a correspondence between the evaluation value and an evaluation (e.g., low/medium/high risk, x1%/x2%/..., etc.) and obtain an evaluation corresponding to the calculated evaluation value. The output unit 250 outputs one or both of the evaluation value calculated by the evaluation unit 240 and the evaluation corresponding to the evaluation value as the evaluation result.
各評価パラメータを用いた評価値の算出に人工知能を用いてもよい。この場合、評価値の算出式は、例えば、DNNなどに相当する。DNNを用いる場合、DNNの入力を各評価パラメータの値とし、出力を評価値とする。レントゲン年齢や年齢差に対応した評価パラメータの値には、レントゲン年齢や年齢差の値をそのまま使用してもよく、レントゲン年齢や年齢差の値が属する数値範囲に対応した離散値を使用してもよく、レントゲン年齢や年齢差を正規化した連続値を使用してもよい。 Artificial intelligence may be used to calculate the evaluation value using each evaluation parameter. In this case, the calculation formula for the evaluation value corresponds to, for example, a DNN. When a DNN is used, the input to the DNN is the value of each evaluation parameter, and the output is the evaluation value. For the value of the evaluation parameter corresponding to the Roentgen age or age difference, the value of the Roentgen age or age difference may be used directly, a discrete value corresponding to the numerical range to which the value of the Roentgen age or age difference belongs may be used, or a continuous value obtained by normalizing the Roentgen age or age difference may be used.
なお、評価対象に応じて評価値の算出に用いられる評価パラメータの種類及び評価値を算出するための演算(算出式)は、学習データを用いた学習により統計的に決められる。 The types of evaluation parameters used to calculate the evaluation value and the calculation (calculation formula) for calculating the evaluation value depending on the evaluation target are statistically determined through learning using training data.
出力部250は、評価部240から受信した評価結果を出力する。出力は、例えば、ディスプレイへの表示、プリンタによる印刷、記録媒体への書き込み、評価装置220とネットワークを介して接続される他の装置への送信のうち一以上を含む。 The output unit 250 outputs the evaluation results received from the evaluation unit 240. Output includes, for example, one or more of displaying on a display, printing on a printer, writing to a recording medium, and sending to another device connected to the evaluation device 220 via a network.
以上、説明した実施形態によれば、人工知能を用いて、被験者の胸部レントゲン画像データから年齢を推測できる。レントゲン年齢、及び、胸部レントゲン年齢という新しい概念は、患者にも直感的に理解しやすく、広く使用される可能性がある。また、胸部レントゲン年齢と実年齢との年齢差により、異常所見があるか否かの判定を支援することができる。よって、一般の検診や診療において、異常所見の見落としが少なくなることが期待される。また、異常を検知した箇所をハイライトして示すことができるため、同じアウトカムでも何が原因かをより深く議論できるようになる。また、胸部レントゲン年齢と実年齢との年齢差は、疾患の重症度を反映している。この年齢差により、心不全患者が胸部レントゲン画像データを撮影した後の予後が層別化される。よって、疾患患者の治療の方針決定に役立つことが期待され、レントゲン年齢、及び、胸部レントゲン年齢は、医療関係者にも広く使用される可能性がある。また、胸部レントゲン画像は、読影者によって所見にばらつきがあるために、デジタル医療に活用されにくかった。本実施形態では、胸部レントゲン所見を胸部レントゲン年齢という一意の定量的な値にすることができるため、デジタル医療の推進に貢献できる可能性があると考えられる。 According to the above-described embodiment, artificial intelligence can be used to estimate a subject's age from their chest X-ray image data. The new concepts of X-ray age and chest X-ray age are intuitively easy for patients to understand and have the potential for widespread use. Furthermore, the difference between chest X-ray age and chronological age can assist in determining whether or not abnormal findings are present. This is expected to reduce the oversight of abnormal findings during general medical examinations and treatment. Furthermore, the ability to highlight detected abnormalities allows for more in-depth discussion of the cause of the same outcome. Furthermore, the difference between chest X-ray age and chronological age reflects the severity of the disease. This age difference stratifies the prognosis of heart failure patients after chest X-ray image data is taken. Therefore, it is expected that X-ray age and chest X-ray age will be useful in determining treatment strategies for patients with the disease, and they have the potential for widespread use by medical professionals. Furthermore, chest X-ray images have been difficult to utilize in digital medicine due to the variability in findings depending on the interpreter. In this embodiment, chest X-ray findings can be converted into a unique quantitative value known as chest X-ray age, which is thought to have the potential to contribute to the promotion of digital medicine.
さらには、健診や診療において被験者のレントゲン撮影を行うと、レントゲン年齢や年齢差の情報を提供することが可能となる。よって、臨床において有用な情報を迅速に提供することができる。さらには、疾患・病態の重症度評価、予後予測研究において、レントゲン年齢や年齢差の情報を評価パラメータの1つとして組み込むことが可能となる。よって、新たな研究の道具としてレントゲン年齢を使用することができるようになる。 Furthermore, when X-rays are taken of subjects during health checkups or medical treatment, it is possible to provide information on X-ray age and age differences. This allows for the rapid provision of useful clinical information. Furthermore, information on X-ray age and age differences can be incorporated as one of the evaluation parameters in disease/pathological condition severity assessments and prognosis prediction research. This means that X-ray age can be used as a new research tool.
上記実施形態では、人体の内部を透過撮影して得られた画像のデータとして、胸部のレントゲン画像データを用いる場合を例に説明したが、MRI(Magnetic Resonance Imaging)、CT(Computed Tomography)などの他の方法により撮影した画像などでもよく、また、脳など他の部分の画像でもよい。 In the above embodiment, an example was described in which chest X-ray image data was used as image data obtained by radiography of the inside of the human body, but images taken using other methods such as MRI (Magnetic Resonance Imaging) or CT (Computed Tomography) may also be used, or images of other parts of the body such as the brain.
上述の実施形態によれば、レントゲン年齢推定学習装置は、学習部を備える。学習部は、被験者のレントゲン画像のデータとそのレントゲン画像が撮影されたときの被験者の年齢とを用いて、レントゲン画像のデータから得られた特徴量と被験者の年齢との対応を示すモデルであるレントゲン年齢推定モデルを学習する。 According to the above-described embodiment, the X-ray age estimation learning device includes a learning unit. The learning unit uses data on the X-ray image of the subject and the subject's age at the time the X-ray image was taken to learn a X-ray age estimation model, which is a model that indicates the correspondence between feature amounts obtained from the X-ray image data and the subject's age.
レントゲン年齢推定装置は、推定部を備える。推定部は、レントゲン年齢推定学習装置が学習したレントゲン年齢推定モデルに、年齢推定対象の被験者のレントゲン画像である推定対象レントゲン画像のデータから得られた特徴量を入力し、年齢推定対象の被験者の年齢の推定結果を得る。レントゲン年齢推定装置は、さらに寄与情報取得部を備えてもよい。寄与情報取得部は、推定対象レントゲン画像において年齢推定対象の被験者の年齢推定に寄与した度合いが所定条件を満たす特徴量が得られた部分に関する情報である寄与情報を取得する。レントゲン年齢推定装置は、さらに出力部を備えてもよい。出力部は、推定部による推定結果の年齢の情報、年齢推定対象の被験者の実年齢と推定部による推定結果の年齢との差分の情報、及び、寄与情報のうち一以上を出力する。 The X-ray age estimation device includes an estimation unit. The estimation unit inputs feature quantities obtained from data on an X-ray image of the subject whose age is to be estimated into the X-ray age estimation model trained by the X-ray age estimation learning device, and obtains an estimated age of the subject whose age is to be estimated. The X-ray age estimation device may further include a contribution information acquisition unit. The contribution information acquisition unit acquires contribution information, which is information about portions of the X-ray image of the subject whose age is to be estimated, where feature quantities whose degree of contribution to the age estimation of the subject whose age is to be estimated meet predetermined conditions are obtained. The X-ray age estimation device may further include an output unit. The output unit outputs one or more of information on the age estimated by the estimation unit, information on the difference between the actual age of the subject whose age is to be estimated and the age estimated by the estimation unit, and contribution information.
例えば、レントゲン画像は、被験者の胸部のレントゲン画像であり、推定対象レントゲン画像は、年齢推定対象の被験者の胸部のレントゲン画像である。 For example, the X-ray image is an X-ray image of the subject's chest, and the estimation target X-ray image is an X-ray image of the subject's chest whose age is to be estimated.
また、レントゲン撮影システムにレントゲン年齢推定装置を備えてもよい。レントゲン撮影システムが有するレントゲン撮影装置は、被験者のレントゲン撮影を行って得られたレントゲン画像のデータを、推定対象レントゲン画像のデータとしてレントゲン年齢推定装置に入力する。 The X-ray imaging system may also be equipped with a X-ray age estimation device. The X-ray imaging device in the X-ray imaging system inputs X-ray image data obtained by X-ray imaging of the subject into the X-ray age estimation device as data for the X-ray image to be estimated.
また、評価装置は、評価部を備える。評価部は、レントゲン年齢推定装置による被験者の年齢の推定結果と、被験者の生体又は生活習慣に関する情報又は当該情報を表す数値とを用いて所定の演算を行った結果に基づいて、被験者の疾病又は病態に関する評価を行う。 The evaluation device also includes an evaluation unit. The evaluation unit evaluates the subject's disease or pathological condition based on the results of a predetermined calculation using the subject's age estimation result obtained by the X-ray age estimation device and information about the subject's biology or lifestyle habits or numerical values representing that information.
画像年齢推定学習装置は、学習部を備える。画像年齢推定学習装置は、例えば、実施形態のレントゲン年齢推定学習装置10に対応する。学習部は、被験者の人体を透過撮影して得られた画像である透過撮影画像のデータと透過撮影画像が撮影されたときの被験者の年齢の情報とを用いて、透過撮影画像のデータから得られた特徴量と被験者の年齢との対応を示す年齢推定モデルを学習する。年齢推定モデルは、例えば、実施形態のレントゲン年齢推定モデルに対応する。透過撮影画像は、例えば、レントゲン撮影により得られた画像、MRIにより得られた画像を含む。特徴量は、例えば、画素値である。 The image-based age estimation learning device includes a learning unit. The image-based age estimation learning device corresponds, for example, to the X-ray age estimation learning device 10 of the embodiment. The learning unit uses data on radiographic images, which are images obtained by radiography of the subject's body, and information on the subject's age at the time the radiographic images were taken, to learn an age estimation model that indicates the correspondence between feature values obtained from the radiographic image data and the subject's age. The age estimation model corresponds, for example, to the X-ray age estimation model of the embodiment. Radiographic images include, for example, images obtained by X-ray photography and images obtained by MRI. The feature values are, for example, pixel values.
画像年齢推定装置は、推定部を備える。画像年齢推定装置は、例えば、実施形態のレントゲン年齢推定装置50に対応する。推定部は、画像年齢推定学習装置が学習した年齢推定モデルに、年齢推定対象の被験者の透過撮影画像である推定対象画像のデータから得られた特徴量を入力し、年齢推定対象の被験者の年齢の推定結果を得る。 The image-based age estimation device includes an estimation unit. The image-based age estimation device corresponds, for example, to the X-ray age estimation device 50 of the embodiment. The estimation unit inputs feature quantities obtained from data on the estimation target image, which is a radiographic image of the subject whose age is to be estimated, into the age estimation model trained by the image-based age estimation learning device, and obtains an estimated age for the subject whose age is to be estimated.
以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行ってもよい。 The above describes an embodiment of the present invention with reference to the drawings, but it is clear that the above embodiment is merely an example of the present invention and that the present invention is not limited to the above embodiment. Therefore, components may be added, omitted, substituted, or otherwise modified without departing from the technical spirit and scope of the present invention.
1…レントゲン年齢推定システム、10…レントゲン年齢推定学習装置、11…モデル記憶部、12…データ記憶部、13…変換部、14…学習データ生成部、15…学習部、16…推定部、17…更新部、18…選択部、19…出力部、50…レントゲン年齢推定装置、51…入力部、52…モデル記憶部、53…変換部、54…推定部、55…寄与情報取得部、56…出力部、80…コンピュータ、81…プロセッサ、82…記憶部、83…ユーザインタフェース、84…通信インタフェース、85…バス、100…レントゲン撮影システム、110…入力部、120…レントゲン撮影装置、130…レントゲン年齢推定装置、140…出力部、200…評価システム、210…レントゲン年齢推定装置、220…評価装置、230…入力部、240…評価部、250…出力部 1...Roentgen age estimation system, 10...Roentgen age estimation learning device, 11...Model memory unit, 12...Data memory unit, 13...Conversion unit, 14...Learning data generation unit, 15...Learning unit, 16...Estimation unit, 17...Update unit, 18...Selection unit, 19...Output unit, 50...Roentgen age estimation device, 51...Input unit, 52...Model memory unit, 53...Conversion unit, 54...Estimation unit, 55...Contribution information acquisition unit, 56...Output unit, 80...Computer, 81...Processor, 82...Memory unit, 83...User interface, 84...Communication interface, 85...Bus, 100...Roentgen imaging system, 110...Input unit, 120...Roentgen imaging device, 130...Roentgen age estimation device, 140...Output unit, 200...Evaluation system, 210...Roentgen age estimation device, 220...Evaluation device, 230...Input unit, 240...Evaluation unit, 250...Output unit
Claims (14)
を備えるレントゲン年齢推定学習装置。 a learning unit that uses training X-ray image data, which is data on an X-ray image of a subject and data on an image obtained by tilting the X-ray image within a predetermined angle, and information on the age of the subject at the time the X-ray image was taken , or that uses training converted image data , which is data on a converted X-ray image obtained by performing a predetermined conversion on the X-ray image data and data on an image obtained by tilting the X-ray image within a predetermined angle , and information on the age of the subject at the time the X-ray image was taken, and that inputs pixel values obtained from the X-ray image data or pixel values obtained from the converted X-ray image data, and outputs the age of the subject corresponding to the input pixel value information;
An X-ray age estimation learning device equipped with the device.
請求項1に記載のレントゲン年齢推定学習装置。 The X-ray image is a chest X-ray image.
The X-ray age estimation learning device according to claim 1 .
を備えるレントゲン年齢推定装置。 a radiological age estimation model trained using training radiological image data, which are radiological image data of a subject and data of an image obtained by tilting said radiological image within a predetermined angle, and information on the age of said subject at the time said radiological image was taken, or using training converted image data , which are converted radiological image data obtained by performing a predetermined conversion on said radiological image data and data of an image obtained by tilting said radiological image within a predetermined angle and performing the predetermined conversion on said data of said radiological image, and information on the age of said subject at the time said radiological image was taken, said radiological age estimation model receiving pixel values obtained from said radiological image data or pixel values obtained from said converted radiological image data as input and outputting the age of said subject corresponding to said input pixel values; an estimation unit which inputs pixel values obtained from data of an estimation target radiological image, which is an radiological image of a subject whose age is to be estimated, or pixel values obtained from data of a transformed estimation target radiological image obtained by performing the predetermined conversion on said data of said estimation target radiological image, and obtains an estimated result of the age of said subject whose age is to be estimated;
An X-ray age estimation device comprising:
をさらに備える請求項3に記載のレントゲン年齢推定装置。 a contribution information acquisition unit that acquires contribution information, which is information about a portion of the X-ray image to be estimated or the converted X-ray image to be estimated, where the pixel value satisfies a predetermined condition as to the degree of contribution to the age estimation of the subject to be age estimation;
The X-ray age estimation device according to claim 3, further comprising:
請求項4に記載のレントゲン年齢推定装置。 an output unit that outputs one or more of information on the age estimated by the estimation unit, information on a difference between the actual age of the subject whose age is to be estimated and the age estimated by the estimation unit, and the contribution information;
The X-ray age estimation device according to claim 4.
請求項3から請求項5のいずれか一項に記載のレントゲン年齢推定装置。 The X-ray image and the estimation target X-ray image are X-ray images of the chest.
The X-ray age estimation device according to any one of claims 3 to 5.
を備える画像年齢推定学習装置。 a learning unit that uses, as input, pixel values obtained from the transmitted image data or the converted transmitted image data, by using training transmitted image data, which are data of transmitted image obtained by transmitting image data of the human body of a subject and data of images obtained by tilting the transmitted image data within a predetermined angle , and information on the age of the subject at the time the transmitted image data was captured, or by using training converted transmitted image data, which are data of converted transmitted image data obtained by performing a predetermined conversion on the transmitted image data and data of images obtained by tilting the transmitted image data within a predetermined angle, and information on the age of the subject at the time the transmitted image data was captured; and learns an age estimation model that outputs the age of the subject corresponding to the input pixel values;
An image age estimation learning device comprising:
を備える画像年齢推定装置。 an age estimation model trained using training transmission image data, which are transmission image data obtained by transmitting a transmission image of a human body of a subject and data of an image obtained by tilting the transmission image within a predetermined angle, and information on the age of the subject at the time the transmission image was captured , or using training transformed transmission image data, which are transformed transmission image data obtained by performing a predetermined transformation on the transmission image data and data of an image obtained by tilting the transmission image within a predetermined angle and performing the predetermined transformation on the data of the transmission image, and information on the age of the subject at the time the transmission image was captured, wherein the age estimation model receives as input pixel values obtained from the transmission image data or the transformed transmission image data, and outputs the age of the subject corresponding to the input pixel values, and an estimation unit inputs pixel values obtained from data of an estimation target image, which is a transmission image of the subject whose age is to be estimated, or pixel values obtained from data of a transformed estimation target image obtained by performing the predetermined transformation on the data of the estimation target image, to obtain an estimation result of the age of the subject whose age is to be estimated;
An image age estimation device comprising:
被験者のレントゲン撮影を行い、前記レントゲン撮影により得られた前記被験者のレントゲン画像のデータを推定対象レントゲン画像のデータとして前記レントゲン年齢推定装置に入力するレントゲン撮影装置と、
を備えるレントゲン撮影システム。 The X-ray age estimation device according to any one of claims 3 to 6,
an X-ray imaging device that takes an X-ray of a subject and inputs data of the X-ray image of the subject obtained by the X-ray imaging into the X-ray age estimation device as data of an X-ray image to be estimated;
An X-ray imaging system comprising:
を備える評価装置。 an evaluation unit that performs an evaluation of a disease or pathological condition of the subject based on a result of a predetermined calculation using the result of the age estimation of the subject by the X-ray age estimation device according to any one of claims 3 to 6 and information on the subject's biological or lifestyle habits or a numerical value representing the information;
An evaluation device comprising:
を有するレントゲン年齢推定学習方法。 a learning step of learning a X-ray age estimation model using learning X-ray image data, which is X-ray image data of a subject and image data obtained by tilting said X-ray image within a predetermined angle, and information on the age of said subject at the time said X-ray image was taken, or using learning transformed image data, which is transformed X-ray image data obtained by performing a predetermined transformation on said X-ray image data and image data obtained by tilting said X-ray image within a predetermined angle and information on the age of said subject at the time said X-ray image was taken, and which takes pixel values obtained from said X-ray image data or pixel values obtained from said transformed X-ray image data as input, and outputs the age of said subject corresponding to the information on said input pixel values;
A learning method for X-ray age estimation.
を有するレントゲン年齢推定方法。 an estimation step of inputting pixel values obtained from data of an estimation target X-ray image, which is an X-ray image of a subject whose age is to be estimated, or pixel values obtained from data of a transformed X-ray image obtained by subjecting the X-ray image data to the transformation target X-ray image data, which is data of an X-ray image of a subject and data of an image obtained by tilting the X-ray image within a predetermined angle , into the X-ray age estimation model which is trained using data of training X-ray images, which are respectively data of an X-ray image of the subject and data of an image obtained by tilting the X-ray image within a predetermined angle and data of an image obtained by subjecting the X-ray image data to the transformation target X-ray image data, and information on the age of the subject when the X-ray image was taken;
A method for estimating the age of a person based on X-rays.
請求項1又は請求項2に記載のレントゲン年齢推定学習装置として動作させるためのプログラム。 Computer,
A program for causing the device to operate as the X-ray age estimation learning device according to claim 1 or 2.
請求項3から請求項6のいずれか一項に記載のレントゲン年齢推定装置として動作させるためのプログラム。 Computer,
A program for causing the X-ray age estimation device according to any one of claims 3 to 6 to operate.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021050527A JP7723922B2 (en) | 2021-03-24 | 2021-03-24 | X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021050527A JP7723922B2 (en) | 2021-03-24 | 2021-03-24 | X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022148729A JP2022148729A (en) | 2022-10-06 |
| JP7723922B2 true JP7723922B2 (en) | 2025-08-15 |
Family
ID=83463393
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021050527A Active JP7723922B2 (en) | 2021-03-24 | 2021-03-24 | X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7723922B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024066977A (en) | 2022-10-28 | 2024-05-16 | 京セラ株式会社 | Image generating device, image generating method, image generating program, and recording medium |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005148880A (en) | 2003-11-12 | 2005-06-09 | Advanced Telecommunication Research Institute International | Age estimation apparatus, age estimation method, and age estimation program |
| JP2010122901A (en) | 2008-11-19 | 2010-06-03 | Omron Healthcare Co Ltd | Device for determining health condition |
| JP2016202904A (en) | 2015-04-15 | 2016-12-08 | キヤノン株式会社 | Diagnosis support apparatus, diagnosis support system, information processing method, and program |
| JP2017522927A (en) | 2014-06-03 | 2017-08-17 | サムスン ライフ パブリック ウェルフェア ファウンデーションSamsung Life Public Welfare Foundation | Biological brain age calculation device and calculation method thereof |
| JP2020004126A (en) | 2018-06-28 | 2020-01-09 | 公立大学法人県立広島大学 | Healthcare data analysis system, healthcare data analysis method, healthcare data analysis program, learned model, information processing apparatus, information processing method and information processing program |
| WO2020012872A1 (en) | 2018-07-09 | 2020-01-16 | 富士フイルム株式会社 | Medical image processing device, medical image processing system, medical image processing method, and program |
| JP2021087464A (en) | 2019-12-02 | 2021-06-10 | コニカミノルタ株式会社 | Medical image analysis system, program, and medical image analysis method |
-
2021
- 2021-03-24 JP JP2021050527A patent/JP7723922B2/en active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005148880A (en) | 2003-11-12 | 2005-06-09 | Advanced Telecommunication Research Institute International | Age estimation apparatus, age estimation method, and age estimation program |
| JP2010122901A (en) | 2008-11-19 | 2010-06-03 | Omron Healthcare Co Ltd | Device for determining health condition |
| JP2017522927A (en) | 2014-06-03 | 2017-08-17 | サムスン ライフ パブリック ウェルフェア ファウンデーションSamsung Life Public Welfare Foundation | Biological brain age calculation device and calculation method thereof |
| JP2016202904A (en) | 2015-04-15 | 2016-12-08 | キヤノン株式会社 | Diagnosis support apparatus, diagnosis support system, information processing method, and program |
| JP2020004126A (en) | 2018-06-28 | 2020-01-09 | 公立大学法人県立広島大学 | Healthcare data analysis system, healthcare data analysis method, healthcare data analysis program, learned model, information processing apparatus, information processing method and information processing program |
| WO2020012872A1 (en) | 2018-07-09 | 2020-01-16 | 富士フイルム株式会社 | Medical image processing device, medical image processing system, medical image processing method, and program |
| JP2021087464A (en) | 2019-12-02 | 2021-06-10 | コニカミノルタ株式会社 | Medical image analysis system, program, and medical image analysis method |
Non-Patent Citations (2)
| Title |
|---|
| 上田 大、伊藤 康一、呉 凱、佐藤 和則、瀧 靖之、福田 寛、青木 孝文,3D-CNNを用いた脳MRI画像からの年齢推定とその応用に関する検討,電子情報通信学会技術研究報告 Vol.118 No.286 [online] IEICE Technical Report,日本,一般社団法人電子情報通信学会,2018年10月30日,p.79~82 |
| 原 武史、松原 友子、李 鎔範、小田 昌宏、村松 千左子,医療AIとディープラーニングシリーズ 2021-2022年版 標準 医用画像のためのディープラーニング-実践編- 第1版 Medical AI and Deep Learning Series,日本,株式会社オーム社,2020年11月26日 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022148729A (en) | 2022-10-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20230248998A1 (en) | System and method for predicting diseases in its early phase using artificial intelligence | |
| US10984905B2 (en) | Artificial intelligence for physiological quantification in medical imaging | |
| EP3404666B1 (en) | Rapid assessment and outcome analysis for medical patients | |
| KR101884609B1 (en) | System for diagnosing disease through modularized reinforcement learning | |
| US20180315182A1 (en) | Rapid assessment and outcome analysis for medical patients | |
| JP2024035070A (en) | Multi-mode medical data fusion system based on multi-view subspace clustering | |
| CN111226287B (en) | Methods, systems, program products, and media for analyzing medical imaging data sets | |
| JP2007524461A (en) | Mammography automatic diagnosis and decision support system and method | |
| JP6957214B2 (en) | Information processing equipment, information processing system, information processing method and program | |
| JP2018175226A (en) | Medical image classification device, method and program | |
| US12367985B2 (en) | Digital twin of a person | |
| JP7485512B2 (en) | Medical information processing device, medical information processing method, and medical information processing program | |
| Yadav et al. | Artificial Intelligence: A promising tool in diagnosis of respiratory diseases | |
| CN118538428A (en) | Cerebral apoplexy classification auxiliary method integrating cross-modal characteristics | |
| CN112562860A (en) | Training method and device of classification model and coronary heart disease auxiliary screening method and device | |
| Tay et al. | Ensemble-based regression analysis of multimodal medical data for osteopenia diagnosis | |
| Sekhar et al. | Explainable Artificial Intelligence Method for Identifying Cardiovascular Disease with a Combination CNN-XG-Boost Framework. | |
| JP7723922B2 (en) | X-ray age estimation learning device, X-ray age estimation device, image age estimation learning device, image age estimation device, X-ray imaging system, evaluation device, X-ray age estimation learning method, X-ray age estimation method and program | |
| CN115546123A (en) | Prediction system of abdominal aortic aneurysm rupture risk based on machine learning | |
| CN115719328A (en) | Method, system and apparatus for quantifying uncertainty in medical image evaluation | |
| CN120221087A (en) | A severe disease early warning method and system based on medical big data | |
| US20230274424A1 (en) | Appartus and method for quantifying lesion in biometric image | |
| JP7489723B2 (en) | PROGRAM, INFORMATION PROCESSING APPARATUS, INFORMATION PROCESSING METHOD, AND METHOD FOR GENERATING LEARNING MODEL | |
| WO2023214890A1 (en) | Systems and methods for processing of fundus images | |
| Menia et al. | Machine learning and its current and future applications in the management of vitreoretinal disorders |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210816 |
|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20210816 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210816 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240215 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20241024 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241029 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241223 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250128 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250324 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250624 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250724 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7723922 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |