Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7750877B2 - 転移部からの病理データを分析するための機械学習モデル - Google Patents
[go: Go Back, main page]

JP7750877B2 - 転移部からの病理データを分析するための機械学習モデル - Google Patents

転移部からの病理データを分析するための機械学習モデル

Info

Publication number
JP7750877B2
JP7750877B2 JP2022574162A JP2022574162A JP7750877B2 JP 7750877 B2 JP7750877 B2 JP 7750877B2 JP 2022574162 A JP2022574162 A JP 2022574162A JP 2022574162 A JP2022574162 A JP 2022574162A JP 7750877 B2 JP7750877 B2 JP 7750877B2
Authority
JP
Japan
Prior art keywords
site
prediction model
primary
biomedical image
condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022574162A
Other languages
English (en)
Other versions
JP2023529609A (ja
Inventor
ディグ ヴィジャイ クマール ヤーララガッダ
マシュー ハンナ
ペーター シェフラー
トーマス フックス
Original Assignee
メモリアル スローン ケタリング キャンサー センター
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by メモリアル スローン ケタリング キャンサー センター filed Critical メモリアル スローン ケタリング キャンサー センター
Publication of JP2023529609A publication Critical patent/JP2023529609A/ja
Priority to JP2025159572A priority Critical patent/JP2026016390A/ja
Application granted granted Critical
Publication of JP7750877B2 publication Critical patent/JP7750877B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211Selection of the most significant subset of features
    • G06F18/2113Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • G06F18/2193Validation; Performance evaluation; Active pattern learning techniques based on specific statistical tests
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/0895Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/0985Hyperparameter optimisation; Meta-learning; Learning-to-learn
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/771Feature selection, e.g. selecting representative features from a multi-dimensional feature space
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06V10/7747Organisation of the process, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/778Active pattern-learning, e.g. online learning of image or video features
    • G06V10/7784Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/778Active pattern-learning, e.g. online learning of image or video features
    • G06V10/7796Active pattern-learning, e.g. online learning of image or video features based on specific statistical tests
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H70/00ICT specially adapted for the handling or processing of medical references
    • G16H70/60ICT specially adapted for the handling or processing of medical references relating to pathologies
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Molecular Biology (AREA)
  • Public Health (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Quality & Reliability (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Pathology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Automatic Analysis And Handling Materials Therefor (AREA)

Description

関連出願の相互参照
本出願は、参照によりその全体が本明細書に組み込まれる、2020年6月2日付で提出された「Machine Learning Model for Analyzing Pathology Data from Metastatic Sites」と題する米国仮特許出願第63/033,730号の優先権を主張する。
コンピューティングデバイスは、様々なコンピュータビジョンアルゴリズムを使用して、画像内の様々な特徴を認識及び検出することができる。コンピューティングデバイスはまた、画像内の特徴に関する特性を判定することもできる。
本開示の態様は、生物医学画像(biomedical images)から原発部位(primary site)を判定するシステム及び方法に関する。コンピューティングシステムは、第1の被験者の状態と関連付けられる原発部位又は二次部位(secondary site)のうちの一方からの第1の試料の第1の生物医学画像を識別することができる。コンピューティングシステムは、第1の生物医学画像を、複数の重みを含む部位予測モデル(site prediction model)に適用して、状態の原発部位を判定することができる。部位予測モデルは、複数の例を有する訓練データセットを使用して訓練することができる。各例は、第2の試料が得られた第2の被験者の状態の原発部位又は二次部位のうちの一方からの第2の試料の第2の生物医学画像、第2の生物医学画像が得られた第2の試料の原発部位又は二次部位のうちの一方を識別する第1のラベル、及び、第2の被験者の状態の原発部位を識別する第2のラベルを含んでもよい。コンピューティングシステムは、部位予測モデルを使用して判定される第1の生物医学画像と原発部位との間の関連付けを記憶することができる。
いくつかの実施形態において、コンピューティングシステムは、第1の生物医学画像と原発部位との間の関連付けを提供することができる。いくつかの実施形態において、コンピューティングシステムは、第1の生物医学画像を部位予測モデルに適用して、第1の被験者の状態の複数の候補原発部位を判定することができる。
いくつかの実施形態において、コンピューティングシステムは、第1の生物医学画像を部位予測モデルに適用して、状態の原発部位の信頼スコアを判定することができる。いくつかの実施形態において、コンピューティングシステムは、第1の生物医学画像を部位予測モデルに適用して、複数の候補原発部位のランク付けを判定することができる。
いくつかの実施形態において、コンピューティングシステムは、組織画像作成手段(histological image preparer)を介して第1の試料の第1の生物医学画像を得ることができる。いくつかの実施形態において、部位予測モデルの複数の重みは、(i)生物医学画像から複数の特徴マップを生成するための複数の畳み込みブロック、及び、(ii)複数の特徴マップに基づいて状態の原発部位を判定するための活性化層に構成することができる。
本開示の態様は、生物医学画像から原発部位を判定するようにモデルを訓練するシステム及び方法に関する。コンピューティングシステムは、複数の例を有する訓練データセットを識別することができる。複数の例の各例は、試料が得られた第2の被験者の状態の原発部位又は二次部位のうちの一方からの試料の生物医学画像、生物医学画像が得られた第2の試料の原発部位又は二次部位のうちの一方を識別する第1のラベル、及び、第2の被験者の状態の原発部位を識別する第2のラベルを含んでもよい。コンピューティングシステムは、訓練データセットの複数の例の各々の生物医学画像を、複数の重みを含む部位予測モデルに適用して、試料の状態の部位を判定することができる。コンピューティングシステムは、訓練データセットの複数の例の各例について、例のラベルにおいて識別される原発部位と、部位予測モデルによって判定される部位とを比較することができる。コンピューティングシステムは、各例のラベルにおいて識別される第1の部位と、部位予測モデルによって判定される第2の部位との間の比較に基づいて、部位予測モデルの複数の重みのうちの少なくとも1つを更新することができる。コンピューティングシステムは、1つ又は複数のデータ構造において、部位予測モデルの複数の重みを記憶することができる。
いくつかの実施形態において、コンピューティングシステムは、第2の試料の取得されている生物医学画像を部位予測モデルに適用して、第2の試料の第2の部位を判定することができる。いくつかの実施形態において、コンピューティングシステムは、複数の例のうちの少なくとも1つの例の損失メトリックが閾値を超えるという判定に応答して、生物医学画像を部位予測モデルに再適用することができる。
いくつかの実施形態において、コンピューティングシステムは、比較に基づいて決定される分類損失を使用して、部位予測モデルの複数の重みのうちの少なくとも1つを更新することができる。いくつかの実施形態において、コンピューティングシステムは、訓練データセットの複数の例の各々において生物医学画像を適用して、第1の被験者の状態の複数の候補原発部位を判定することができる。
いくつかの実施形態において、コンピューティングシステムは、訓練データセットの複数の例の各々において生物医学画像を適用して、状態の原発部位の信頼スコアを判定することができる。いくつかの実施形態において、部位予測モデルの複数の重みは、(i)生物医学画像から複数の特徴マップを生成するための複数の畳み込みブロック、及び、(ii)複数の特徴マップに基づいて状態の原発部位を判定するための活性化層に構成することができる。
本開示の上記のおよび他の目的、態様、特徴及び利点は、添付の図面とともに取り上げられる以下の詳細な説明を参照することによって、より明瞭になり、よりよく理解されるであろう。
例示的な実施形態によるホールスライドイメージを使用した転移部(metastatic sites)における元の原発部位の識別のためのプロセスの概観のブロック図である。 例示的な実施形態によるホールスライドイメージを使用した転移部における元の原発部位の識別のためにモデルを訓練するためのプロセスの概観のブロック図である。 例示的な実施形態による転移部における元の原発部位の識別のためにモデルを訓練するために使用される訓練データにおける原発部位と転移部との間の関係を示すグラフ図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステムのブロック図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステム内の部位予測モデルの訓練プロセスのブロック図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステム内の部位予測モデルのアーキテクチャのブロック図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステム内の部位予測モデルのエンコーダブロックのアーキテクチャのブロック図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステムの部位予測モデル内の変換スタックのアーキテクチャのブロック図である。 例示的な実施形態による生物医学画像から原発部位を判定するためのシステム内の部位予測モデルの推測プロセスのブロック図である。 例示的な実施形態による原発部位を判定するためにモデルを訓練する方法の流れ図である。 例示的な実施形態による原発部位を判定するためにモデルを適用する方法の流れ図である。 例示的な実施形態によるサーバシステム及びクライアントコンピュータシステムのブロック図である。
以下は、生物医学画像から原発部位を判定するためのシステム及び方法に関係する様々な概念及びその実施形態のより詳細な説明である。開示されている概念は特定の実施方法に限定されないため、上で紹介され、以下でより詳細に議論される様々な概念は、多くの方法のいずれかにおいて実施されてもよいことを理解されたい。特定の実施態様及び応用形態の例は、主に例示を目的として与えられている。
セクションAは、生物医学画像から原発部位を判定するためのシステム及び方法を説明する。
セクションBは、本明細書に記載されている様々なコンピューティング関連実施形態に有用であり得るネットワーク環境及びコンピューティング環境を説明する。
A.生物医学画像の原発部位を判定するシステム及び方法
癌細胞は、原発部位に由来し、被験者の全身を通じて1つ又は複数の二次部位(本明細書においては転移部としても参照される)に転移し得る。腫瘍部位に応じて、二次部位の癌細胞は、元の原発部位のものと特性的に同様に見え得る。原発部位の推定は、身体における癌の転移を軽減及び抑制するための治療を考案するのに重要な要因であり得る。病理学者は、被験者からの組織のホールスライドイメージを手動で検査して、癌の元の原発部位を判定し得る。しかしながら、このプロセスは、特に複数の被験者からの多数の画像が検査されるべきであるときに、低速且つ面倒になり得る。さらに、検査が手動であることによって、診断が不正確になり、治療勧告が誤ったものになる可能性がある。これらの問題の一部に対処するための1つの手法は、コンピュータビジョン技法を使用して、ホールスライドイメージ内に描写されている所与の組織内の癌細胞を認識することであり得る。しかし、この手法は、癌細胞の原発部位の推定を与えることに対処することができない場合がある。これらの及び他の課題に対処するために、ホールスライドイメージに基づいて癌細胞の原発部位を予測するために形態学的パターンを学習するように、モデルが訓練され得る。モデルは、転移リスクと高度に相関する形態学的パターンを識別することができる。
ここで図1Aを参照すると、ホールスライドイメージを使用した転移部における元の原発部位の識別のためのプロセス100の概観のブロック図が示されている。図示されているように、病理学的記録(pathology records)のデータレコードから、グランドトゥルースを自動的に抽出することができる。パスレポートは、とりわけ、悪性度(例えば、高悪性度骨肉腫、低悪性度漿液性腺癌、又は高悪性度多形性肉腫)、分化度(例えば、低分化甲状腺癌、未分化多形性肉腫、高分化粘液腺癌、及び脱分化脂肪肉腫)、腫瘍(例えば、神経芽腫群腫瘍、ミュラー管腫瘍、及び小円形細胞腫瘍)、下位腫瘍型(例えば、ユーイング肉腫、血管肉腫、及び網膜芽腫)、特性(例えば、浸潤癌、悪性腫瘍、及び転移性平滑筋腫)、及び細胞腫瘍又は異常(例えば、扁平上皮細胞癌、胚細胞腫瘍、明細胞癌、及び非小細胞癌)などの、腫瘍型を含み得る。腫瘍型によってインデックス付けされているホールスライドイメージ(WSI)のデータセットを、複数の被験者から集めることができる。腫瘍領域は、マーカ抽出、病理学者注記、及びクラス活性化マップの下で抽出することができる。関連領域を使用して、分類器は、画像に描写されている腫瘍の原発部位を位置特定するように訓練することができる。追加の転移リスク因子を、組織試料からの原発部位の予測によって分析することができる。
ここで図1Bを参照すると、ホールスライドイメージを使用した転移部における元の原発部位の識別のためにモデルを訓練するためのプロセス105の概観のブロック図が示されている。図示されているように、モデルは、自己管理様式で訓練データを使用して訓練することができる。モデルは、腫瘍型を認識するように訓練することができる。マーカ注記及び病理学者注記を使用して、ホールスライドイメージ内の腫瘍細胞の位置を検出することができる。ここで図1Cを参照すると、転移部における元の原発部位の識別のためにモデルを訓練するために使用される訓練データにおける原発部位と転移部との間の関係を示すグラフ110が示されている。図示されているように、癌の原発部位と転移部との間には相関があり得る。これらのデータを使用して訓練されたモデルは、新たな入力画像の相関を推測するための重み及び接続を生成することができる。
ここで図2を参照すると、生物医学画像から原発部位を判定するためのシステム200のブロック図が示されている。概して、システム200は、少なくとも1つのネットワーク220を介して互いに通信可能に結合されている少なくとも1つの画像処理システム205と、少なくとも1つのイメージングデバイス210と、少なくとも1つのディスプレイ215とを含むことができる。画像処理システム205は、とりわけ、少なくとも1つのモデル訓練手段(model trainer)225と、少なくとも1つのモデル適用手段(model applier)230と、少なくとも1つの部位予測モデル235と、少なくとも1つのデータベース240とを含むことができる。データベース240は、少なくとも1つの訓練データセット245を記憶、維持、又は他の様態で含むことができる。本明細書において詳述されているものとしてのシステム200の構成要素の各々は、本明細書のセクションBにおいて詳述されているように、ハードウェア(例えば、メモリと結合されている1つ又は複数のプロセッサ)又はハードウェアとソフトウェアとの組合せを使用して実装されてもよい。
より詳細には、画像処理システム205自体、並びに、モデル訓練手段225、モデル適用手段230、及び部位予測モデル235などの、画像処理システム内の構成要素は、訓練モード及びランタイムモード(本明細書においては評価又は推測モードとして参照されることがある)を有することができる。訓練モード下では、画像処理システム205は、モデル訓練手段225及びモデル適用手段230を呼び出して、訓練データセット245を使用して部位予測モデル235を訓練することができる。ランタイムモード下では、画像処理システム205は、モデル適用手段230を呼び出して、部位予測モデル235を新たな生物医学画像に適用して、組織が生物医学画像に描写されている被験者の状態の原発部位を予測することができる。
ここで図3を参照すると、生物医学画像から原発部位を判定するためのシステム200内の部位予測モデル235の訓練プロセス300のブロック図が示されている。プロセス300は、訓練モード下で画像処理システム205によって実施される動作に対応してもよく、又はこれを含んでもよい。プロセス300下では、画像処理システム205上で実行するモデル訓練手段230が、部位予測モデル235を初期化、訓練、又は確立することができる。いくつかの実施形態において、モデル訓練手段230は、初期化の一部として、部位予測モデル235内の重みのセットに乱数値を割り当てることができる。部位予測モデル235を訓練するために、モデル訓練手段225は、データベース240にアクセスして、訓練データセット245を取り出し、フェッチし、又は識別することができる。訓練データセット245は、少なくとも1つのデータ構造(例えば、配列、行列、ヒープ、リスト、木、又はデータオブジェクト)を使用してデータベース240に記憶及び維持することができる。当該識別によって、モデル訓練手段225は、訓練データセット245を使用して部位予測モデル235を訓練することができる。部位予測モデル235の訓練は、教師あり(例えば、強又は弱教師あり)学習技法に従ってもよい。
訓練データセット325は、1つ又は複数の例を含むことができる。訓練データセット245の各例は、被験者320からの、とりわけ、少なくとも1つの画像305、少なくとも1つの原発部位ラベル310、及び少なくとも1つの画像部位ラベル315を含むことができる。訓練データセット325内の例は、複数の被験者325から得られ得る。各訓練データセット245内で、画像305は、被験者320から取得されてもよく、導出されてもよく、又は他の様態で被験者320からの少なくとも1つの試料325のものであってもよい。試料325は、被験者320(例えば、人間、動物、又は植物)から採取されるか又は得られる組織切片であってもよい。組織切片は、人間又は動物の被験者の場合、例えば、筋組織、結合組織、上皮組織、神経組織、又は、臓器組織を含んでもよい。試料325は、被験者320の少なくとも1つの原発部位330又は少なくとも1つの二次部位335(本明細書においては転移部として参照されることがある)から得られ得る。試料325は、それ自体、状態を有する1つ又は複数の物体を有するか又は含み得る。例えば、試料325の組織切片は、腫瘍細胞又は病変を含む場合がある。この例では、癌細胞又は病変が、物体に対応することができ、状態が、腫瘍又は病変を有することに対応することができる。原発部位330は、状態の由来である被験者320内のロケーションに対応することができる。二次部位335は、状態の転移先である被験者320内のロケーションに対応することができる。例えば、肺癌が脳に転移した被験者320について、原発部位330は、肺内のロケーションとすることができ、二次部位335は脳内のロケーションとすることができる。
画像305自体は、とりわけ、光学顕微鏡、共焦点顕微鏡、蛍光顕微鏡、燐光顕微鏡、電子顕微鏡を使用することなど、顕微鏡検査技法又は病理組織画像作成手段に従って取得されてもよい。画像305は、例えば、とりわけ、ヘマトキシリン・エオジン(H&E)染色、免疫染色、ヘモジデリン染色、スダン染色、シッフ染色、コンゴレッド染色、グラム染色、チール-ネールゼン染色、オーラミン-ローダミン染色、トリクロム染色、銀線色、及びライト染色を有する組織切片であってもよい。画像305は、1つ又は複数の関心領域(ROI)を含んでもよい。各ROIは、状態(例えば、画像内の特徴又は物体)を含有するか、包含するか、又は含む試料画像305内の領域、区画、又は境界に対応し得る。例えば、試料画像305は、試料325内の組織切片のデジタルパソロジーのためのホールスライドイメージ(WSI)であってもよく、ROIは、試料組織中の病変及び腫瘍を有する領域に対応してもよい。いくつかの実施形態において、試料画像305のROIは、複数の異なる状態に対応し得る。各状態は、ROIの分類を定義又は指定することができる。例えば、画像305が試料組織のWSIであるとき、状態は、とりわけ、癌組織、良性上皮組織、間質組織、壊死組織、及び脂肪組織などの、様々な組織病理学的特性に対応してもよい。いくつかの実施形態において、訓練データセット245は、関連する画像305内でROIを識別する少なくとも1つの注記を含んでもよい。
加えて、原発部位ラベル310は、試料325中の状態が由来する被験者320内の原発部位330を識別することができる。画像部位ラベル315は、試料325が得られる被験者320内の部位を識別することができる。原発部位ラベル310と画像部位ラベル315の両方が、被験者320内の可能性のある部位のうちの1つに対応する値(例えば、英数字又は数字)を含み得る。画像部位ラベル315は、原発部位330又は二次部位335であり得る。原発部位ラベル310及び画像部位ラベル315は、異なる場合があり、又は、同じである場合がある。画像305が原発部位330から得られる試料325のものであるとき、原発部位ラベル310及び画像部位ラベル315は、同じであり得る。この場合、原発部位ラベル310と画像部位ラベル315の両方が、原発部位330を識別することができる。画像305が二次部位335から得られる試料325のものであるとき、原発部位ラベル310及び画像部位ラベル315は、異なり得る。この場合、原発部位ラベル310は被験者320内の原発部位330を識別し得、画像部位ラベル315は二次部位335を識別することができる。原発部位ラベル310及び画像部位ラベル315は、被験者320又は試料325を検査する病理学者又は臨床医によって入力又は生成することができる。いくつかの実施形態において、画像部位ラベル315は、訓練データセット245から省略されてもよい。
訓練時、画像処理システム205上で実行するモデル適用手段230は、訓練データセット245からの画像305を部位予測モデル230に適用することができる。部位予測モデル235は、少なくとも1つの入力を処理し、少なくとも1つの出力を生成するための重み(本明細書においてはパラメータ、カーネル、又はフィルタとして参照されることがある)を含むか又は有することができる。部位予測モデル235内の重みのセットは、例えば、ResNet-50 CNNの配列などの畳み込みニューラルネットワーク(CNN)アーキテクチャに従って構成されてもよい。適用時、モデル適用手段230は、訓練データセット245の各例からの画像305を部位予測モデル235の入力に提供又は供給することができる。いくつかの実施形態において、モデル適用手段230は、画像305の全体を部位予測モデル235に供給することができる。いくつかの実施形態において、モデル適用手段230は、部位予測モデル235に入力するための1つ又は複数のタイルを画像305から選択又は識別することができる。
供給を受けて、モデル適用手段230は、入力画像305を、部位予測モデル235内で構成されている重みのセットに従って処理して、少なくとも1つの出力を生成することができる。出力は、1つ又は複数の予測原発部位340を含み得る。各予測原発部位340は、入力画像305の試料325内で示されている状態の原発部位330を識別することができる。予測原発部位340は、被験者320内の部位(例えば、臓器)のうちの1つに対応する値(例えば、英数字又は数字)を含み得る。いくつかの実施形態において、出力は、状態の各予測原発部位340の信頼スコアを含むことができる。信頼スコアは、状態の予測原発部位340が状態の実際の原発部位330である可能性を規定又は指示することができる。部位予測モデル235のアーキテクチャ及び機能の詳細が、本明細書において図4A~図4Cに関連して下記に説明される。
ここで図4Aを参照すると、生物医学画像から原発部位を判定するためのシステム205内の部位予測モデル235のアーキテクチャ400のブロック図が示されている。アーキテクチャ400の下で、部位予測モデル235は、とりわけ、1つ又は複数のエンコーダA~N(以降、一般にエンコーダ405)、少なくとも1つのアグリゲータ410、及び少なくとも1つのアクティベータ415(本明細書においては一般に活性化層として参照されることがある)を含むことができる。部位予測モデル235の重みのセットは、とりわけ、1つ又は複数のエンコーダ405、アグリゲータ410、及びアクティベータ415にまたがって構成、配列、又は他の様態で配置構成されてもよい。部位予測モデル235は、1つ又は複数の入力及び少なくとも1つの出力を有することができる。入力は、画像305、又は、画像305からのタイルのセット420A~N(以降、一般にタイル420として参照されることがある)を含むことができる。タイル420は、画像305の一部分に対応することができる。出力は、予測原発部位340(例えば、図示のものなど)を含み得る。いくつかの実施形態において、出力は、予測原発部位340の信頼スコアを含むことができる。エンコーダ405、アグリゲータ410、及びアクティベータ415の入力及び出力は、例えば、図示されている様式で互いに接続することができる。
各エンコーダ405は、画像305の少なくとも一部分を入力として受信し、取り出し、又は他の様態で識別することができる。入力は、画像305の全体、又は、画像305からの対応するタイル420であってもよい。エンコーダ405内の重みに従って、エンコーダ405は、入力を処理することができる。エンコーダ405内の重みのセットは、例えば、畳み込みニューラルネットワーク(CNN)に従って構成されてもよい。いくつかの実施形態において、重みのセットは、エンコーダ405の間で共有されてもよい。例えば、エンコーダ405内の重みの値及び相互接続は、部位予測モデル235内のエンコーダ405すべてを通じて同じであってもよい。いくつかの実施形態において、重みのセットは、エンコーダ405の間で共有されなくてもよい。例えば、1つのエンコーダ405内の重みの値又は相互接続は、他のエンコーダ405内の重みの値又は相互接続と異なってもよく、又は無関係であってもよい。エンコーダ405は、図4B及び図4Cに関連して本明細書において詳述されているアーキテクチャを使用して実装されてもよい。入力の処理から、エンコーダ405は、少なくとも1つの特徴マップ425A~N(以降、一般に特徴マップ425として参照される)を作成又は生成することができる。特徴マップ425は、入力画像305又はタイル420のより低次元の表現であってもよい。例えば、特徴マップ425は、入力画像305又はそれぞれのタイル420内の潜在特徴の表現であってもよい。エンコーダ405の出力は、アグリゲータ410の入力として提供又は供給することができる。
アグリゲータ410は、対応するエンコーダ405によって生成される特徴マップ425を受信し、取り出し、又は他の様態で識別することができる。受信すると、アグリゲータ410は、入力の特徴マップ425を連結し又は組み合わせて、アグリゲータ410において規定される重みのセットにすることができる。アグリゲータ410は、重みのセットに従って入力を処理することができる。いくつかの実施形態において、アグリゲータ410内の重みのセットは、完全畳み込みニューラルネットワーク(FCN)に従って構成されてもよい。アグリゲータ410は、図4B及び図4Cに関連して本明細書において詳述されているアーキテクチャを使用して実装されてもよい。処理によって、アグリゲータ410は、少なくとも1つの集約特徴マップ430を決定、作成、又は他の様態で生成することができる。集約特徴マップ430は、受信特徴マップ425の組み合わされたセットのより低次元の表現であってもよい。例えば、集約特徴マップ430は、エンコーダ405から特徴マップ425の組み合わされたセット内の潜在特徴の表現であってもよい。アグリゲータ410の出力は、アクティベータ415の入力として提供又は供給することができる。
アクティベータ415は、アグリゲータ401によって生成されるアグリゲータ特徴マップ430を受信し、取り出し、又は他の様態で識別することができる。アクティベータ415は、重みのセットに従って入力集約特徴マップ430を処理することができる。アクティベータ415内の重みのセットは、とりわけ、softmax関数、maxout関数、正規化線形ユニット(ReLU)、線形活性化関数、ヘヴィサイド関数、動径関数、又はロジスティック関数などの活性化層に従って構成することができる。アクティベータ415は、図4B及び図4Cに関連して本明細書において詳述されているアーキテクチャを使用して実装されてもよい。処理から、アクティベータ415は、少なくとも1つの出力を作成又は生成することができる。出力は、少なくとも1つの予測原発部位340を含み得る。予測原発部位340は、とりわけ、肺、胸部、脳、肝臓、胃、甲状腺、皮膚、又は任意の他の臓器などの、被験者320内の規定の部位に対応することができる。いくつかの実施形態において、出力は、予測原発部位340の信頼スコアを含むことができる。信頼スコアは、状態の予測原発部位340が状態の実際の原発部位330である可能性を規定又は指示することができる。
ここで図4Bを参照すると、生物医学画像から原発部位を判定するためのシステム200の部位予測モデル235内のエンコーダブロック445のアーキテクチャ440のブロック図が示されている。エンコーダブロック445は、部位予測モデル245内のエンコーダ405及びアグリゲータ410を実装するために使用することができる。例えば、各エンコーダ405及びアグリゲータ410は、エンコーダブロック445のインスタンスであってもよい。アーキテクチャ440の下で、エンコーダブロック445は、1つ又は複数の畳み込みスタック450A~N(以降、一般に畳み込みスタック450として参照される)を含むことができる。エンコーダブロック415はまた、少なくとも1つの入力455及び特徴マップ460などの少なくとも1つの出力も含むことができる。入力455及び出力特徴マップ460は、畳み込みスタック450において規定される重みのセットを介して関連付けられ得る。エンコーダ405を実装するために使用されるとき、エンコーダブロック445の入力455は、画像305又は対応するタイル420に対応するか又はこれを含むことができ、出力特徴マップ460は、特徴マップ425に対応することができる。アグリゲータ410を実装するために使用されるとき、エンコーダブロック445の入力455は、特徴マップ425の組み合わされたセットに対応するか又はこれを含むことができ、出力460は、集約特徴マップ430に対応することができる。各畳み込みスタック450は、エンコーダブロック445の重みを規定するか又は含むことができる。畳み込みスタック450のセットは、直列(例えば、図示のような)若しくは並列構成又は任意の組合せに配置構成することができる。直列構成において、1つの畳み込みスタック450の入力は、先行する畳み込みスタック450の出力を含むことができる(例えば、図示のように)。並列構成において、1つの畳み込みスタック450の入力は、エンコーダブロック445全体の入力を含むことができる。畳み込みスタック450のアーキテクチャに関する詳細は、本明細書において、図4Cに関連して下記に与えられる。
ここで図4Cを参照すると、生物医学画像から原発部位を判定するためのシステム200内の部位予測モデル235内の変換スタック475のアーキテクチャ470のブロック図が示されている。変換スタック475は、部位予測モデル235内のエンコーダ405又はアグリゲータ410のインスタンスとして使用されるエンコーダブロック445の畳み込みスタック450を実装するために使用することができる。変換スタック475はまた、予測モデル235内のアクティベータ415を実装するために使用することもできる。変換スタック475は、1つ又は複数の変換層480A~N(以降、一般に変換層480として参照される)を含むことができる。変換スタック475はまた、少なくとも1つの入力485及び少なくとも1つの出力特徴マップ490も含む。入力485及び出力490は、変換スタック475の変換層480において規定される重みのセットを介して関連付けられ得る。アクティベータ415を実装するために使用されるとき、入力485は、集約特徴マップ430に対応することができ、出力490は、とりわけ、予測原発部位340及び信頼スコアに対応することができる。変換層480のセットは直列に配置構成することができ、1つの変換層480の出力が、入力として後続の変換層480に供給される。各変換層480は、非線形入力-出力特性を有することができる。変換層480は、とりわけ、畳み込み層、正規化層、及び活性化層(例えば、正規化線形ユニット(ReLU))を備えることができる。いくつかの実施形態において、変換層480のセットは、畳み込みニューラルネットワーク(CNN)であってもよい。例えば、畳み込み層、正規化層、及び活性化層(例えば、softmax関数)は、CNNに従って配置構成されてもよい。
図3の文脈において、モデル訓練手段225は、画像305の適用から部位予測モデル235によって作成される出力を取り出すか、得るか、又は他の様態で識別することができる。出力は、例えば、とりわけ、少なくとも1つの予測原発部位340及び予測原発部位340の信頼スコアを含んでもよい。関連して、モデル訓練手段225は、予測原発部位340を生成するために使用される訓練データセット245内の例の入力画像305、原発部位ラベル310、又は画像部位ラベル315を識別することができる。いくつかの実施形態において、モデル訓練手段225は、予測原発部位340を生成するために使用される訓練データセット245の例において識別される原発部位ラベル310を識別することができる。いくつかの実施形態において、モデル訓練手段225は、同じ例において識別される画像部位ラベル315を識別することができる。
識別によって、モデル訓練手段225は、部位予測モデル235によって生成される予測原発部位340を、訓練データセット245からの例において識別されるものとしての原発部位ラベル310と比較することができる。部位予測モデル235によって出力される複数の予測原発部位340が存在するとき、モデル訓練手段225は、訓練を目的として、最も高い信頼スコアを有する予測原発部位340を選択又は識別することができる。いくつかの実施形態において、モデル訓練手段225は、予測原発部位340に含まれる値を、原発部位ラベル310によって示される値と比較することができる。
比較から、モデル訓練手段225は、部位予測モデル235によって生成される予測原発部位340が正しいか否かを判定することができる。予測原発部位340が原発部位ラベル310に一致するとき、モデル訓練手段225は、予測原発部位340が正しいと判定することができる。いくつかの実施形態において、モデル訓練手段225は、正しいと判定された予測原発部位340を生成するために使用される訓練データセット245内の例を識別することができる。モデル訓練手段225はまた、再訓練データセットからの、訓練データセット245からの例も実行することができる。逆に、予測原発部位340が原発部位ラベル310に一致しないとき、モデル訓練手段225は、予測原発部位340が誤りであると判定することができる。いくつかの実施形態において、モデル訓練手段225は、誤りと判定された予測原発部位340を生成するために使用される訓練データセット245内の例を識別することができる(本明細書においてはハード例として参照されることがある)。モデル訓練手段225は、再訓練データセット内の、訓練データセット245からの例を含むことができる。
いくつかの実施形態において、モデル訓練手段225は、例を再訓練データセットに含める際に、訓練データセット325内の例の画像部位ラベル315を考慮に入れることができる。モデル訓練手段225は、被験者320内の特定の部位の画像部位ラベル315によって、再訓練データセット内の例の数を識別することができる。モデル訓練手段225は、例の数を閾値と比較することができる。閾値は、同じ画像部位ラベル315を有するすべての例を再訓練データセットに含める例の数の値を定義することができる。例の数が閾値以上であるとき、モデル訓練手段225は、同じ画像部位ラベル315を有する、訓練データセット245からのすべての例を再訓練データセットに含めることができる。そうではなく、例の数が閾値未満であるとき、モデル訓練手段225は、現在の数の例を再訓練データセットにおいて維持することができる。
比較に基づいて、モデル訓練手段225は、部位予測モデル235の重みを更新するために少なくとも1つの損失メトリック(本明細書においては誤差メトリックとして参照されることがある)を計算、生成、又は他の様態で決定することができる。損失メトリックは、訓練データセット245からの多くの例を使用して生成される部位予測モデル235からの多くの出力を使用して決定することができる。損失メトリックは、部位予測モデル235からの出力(例えば、予測原発部位340)の、訓練データセット245において示されるものとしての期待される結果(例えば、原発部位ラベル310)からの逸脱度を示すことができる。例えば、損失メトリックは、画像305が、原発部位ラベル310において識別されているものとしての正しい部位以外の1つの部位に誤って分類されることからの、分類損失を測定することができる。損失メトリックは、とりわけ、Huber損失、ノルム損失(例えば、L1又はL2)、平均平方誤差(MSE)、二次損失、及び交差エントロピー損失などの、任意の数の損失関数に従って計算されてもよい。一般に、損失メトリックが高くなるほど、出力が入力の期待される結果から逸脱している度合いが大きくなっている可能性がある。一般に、損失メトリックが低くなるほど、出力が入力の期待される結果から逸脱している度合いが低くなっている可能性がある。いくつかの実施形態において、例を使用して生成される予測原発部位340の損失メトリックが閾値よりも大きいとき、例は再訓練データセットに含まれ得る。閾値は、対応する例を再訓練データセットに含める損失メトリックの値を定義又は表現することができる。いくつかの実施形態において、モデル訓練手段225は、出力及び訓練データセット245に関する比較の結果を組み合わせて損失メトリックを計算することができる。
損失メトリックを使用して、モデル訓練手段225は、部位予測モデル235内の1つ又は複数の重みを変更、設定、又は他の様態で更新することができる。重みの更新は、部位予測モデル245内のエンコーダ405、アグリゲータ410、及びアクティベータ415にまたがって行われてもよい。重みの更新は、部位予測モデル235の最適化関数(又は目的関数)に従って行われてもよい。最適化関数は、部位予測ネットワーク235の重みが更新されるべきである1つ又は複数のレート又はパラメータを定義することができる。部位予測モデル235内のカーネルの更新は、収束条件まで繰り返されてもよい。
いくつかの実施形態において、モデル訓練手段225は、再訓練データセットを使用して、部位予測モデル235を訓練し続けることができる。再訓練データセットは、部位予測モデル235が、誤って予測された原発部位340を以前に作成した例の1つを含んでもよい。再訓練データセットを使用した部位予測モデル235の訓練は、上述したような元のデータセット245を使用した訓練と同様であってもよい。例えば、モデル適用手段230は、再訓練データセットに含まれる各例からの画像305を部位予測モデル235に再適用することができる。部位予測モデル235によって作成される予測原発部位340を使用して、モデル訓練手段225は、別の損失メトリックを計算し、それに従って、部位予測モデル235の重みを更新することができる。
収束を受けて、モデル訓練手段225は、部位予測モデル235の重みのセットを記憶し、維持することができる。収束は、部位予測モデル235内の重みの値の変化が閾値を下回ることに対応してもよい。部位予測モデル235の重みのセットは、とりわけ、配列、行列、ヒープ、リスト、木、又はデータオブジェクトなどの1つ又は複数のデータ構造を使用して記憶されてもよい。いくつかの実施形態において、モデル訓練手段225は、部位予測モデル235の重みのセットをデータベース240に記憶することができる。
ここで図5を参照すると、生物医学画像から原発部位を判定するためのシステム200内の部位予測モデル235の推測プロセス500のブロック図が示されている。プロセス500は、ランタイムモード下で画像処理システム205によって実施される動作に対応してもよく、又はこれを含んでもよい。プロセス500の下で、イメージングデバイス210は、被験者515から少なくとも1つの試料510の少なくとも1つの画像505を走査するか、得るか、又は他の様態で取得することができる。画像505は、上述した画像305と同様であってもよい。試料510は、被験者515から採取されるか又は得られる組織切片であってもよい。試料510は、被験者515の少なくとも1つの原発部位520又は少なくとも1つの二次部位525(本明細書においては転移部として参照されることがある)から得られ得る。試料510は、それ自体、状態を有する1つ又は複数の物体を有するか又は含み得る。例えば、試料510の組織切片は、腫瘍細胞又は病変を含む場合がある。原発部位520は、状態の由来である被験者515内のロケーションに対応することができる。二次部位525は、状態の転移先である被験者515内のロケーションに対応することができる。例えば、肺癌が脳に転移した被験者515について、原発部位520は、肺内のロケーションとすることができ、二次部位525は脳内のロケーションとすることができる。画像505は、顕微鏡検査技法又は病理組織イメージングに従って取得されてもよい。取得を受けて、イメージングデバイス210は、取得されている画像505をイメージング処理システム205に送るか、送信するか、又は他の様態で提供することができる。
次いで、モデル適用手段230は、イメージングデバイス210から画像505を取り出し、受信し、又は他の様態で識別することができる。モデル適用手段230は、画像505を部位予測モデル235の入力に提供又は供給することができる。いくつかの実施形態において、モデル適用手段230は、画像505の全体を部位予測モデル235に供給することができる。いくつかの実施形態において、モデル適用手段230は、部位予測モデル235に入力するための1つ又は複数のタイル(例えば、タイル420と同様の)を画像505から選択又は識別することができる。供給を受けて、モデル適用手段230は、入力画像505を、部位予測モデル235内で構成されている重みのセットに従って処理して、少なくとも1つの出力を生成することができる。出力は、1つ又は複数の予測原発部位530を含み得る。各予測原発部位530は、入力画像505の試料325内で示されている状態の原発部位520を識別することができる。予測原発部位530は、被験者515内の部位(例えば、臓器)のうちの1つに対応する値(例えば、英数字又は数字)を含み得る。いくつかの実施形態において、出力は、状態の各予測原発部位530の信頼スコアを含むことができる。信頼スコアは、状態の予測原発部位530が状態の実際の原発部位520である可能性を規定又は指示することができる。いくつかの実施形態において、モデル適用手段230は、予測原発部位530を信頼スコアによってランク付けすることができる。
生成によって、モデル適用手段230は、画像505と部位予測モデル235の出力との間の関連付けを記憶し、維持することができる。出力は、予測原発部位430及び対応する信頼スコアのうちの1つ又は複数を含み得る。関連付けは、1つ又は複数のデータ構造を使用してデータベース240に記憶することができる。加えて、モデル適用手段230は、部位予測モデル235からの出力を提示又はレンダリングのためにディスプレイ215に送るか、送信するか、又は他の様態で提供することができる。いくつかの実施形態において、モデル適用手段230はまた、画像505と対応する出力との間の関連付けもディスプレイ215に提供することができる。ディスプレイ215は、予測原発部位530及び信頼スコアなどの、部位予測モデル235からの出力をレンダリング又は提示することができる。いくつかの実施形態において、ディスプレイ215はまた、部位予測モデル235からの出力とともに画像505を提示することもできる。ディスプレイ215は、画像処理システム205からの情報をグラフィカルユーザインターフェースに提示することができる。例えば、グラフィカルユーザインターフェースは、画像505、信頼スコアによってランク付けされている予測原発部位530、及び信頼スコア自体を提供することができる。グラフィカルユーザインターフェースはまた、画像505が得られる被験者515又は試料510に関する他の情報も含むことができる。このように、画像処理システム205の部位予測モデル235は、画像505から形態学的潜在特徴を学習して、被験者515からの試料510の画像505の予測原発部位530を判定することが可能であり得る。画像505は、二次部位525又は実際の原発部位520自体からのものであってもよい。
ここで図6Aを参照すると、原発部位を判定するためにモデルを訓練する方法600の流れ図が示されている。方法600は、図2~図5に関連して本明細書に記載されているシステム300又はセクションBに関連して詳述されているシステム700によって実施されてもよく、又はそれを使用して実装されてもよい。簡潔に要約すると、方法600の下で、コンピューティングシステム(例えば、画像処理システム205)は、訓練データセット(例えば、訓練データセット245)を識別することができる(605)。コンピューティングシステムは、画像(例えば、画像305)をモデル(例えば、部位予測モデル235)に適用することができる(610)。コンピューティングシステムは、結果(例えば、予測原発部位340)をラベル(例えば、原発部位ラベル310)と比較することができる(615)。コンピューティングシステムは、モデルを更新することができる(620)。コンピューティングシステムは、モデルの重みを記憶することができる(625)。
ここで図6Bを参照すると、原発部位を判定するためにモデルを適用する方法650の流れ図が示されている。方法650は、図2~図5に関連して本明細書に記載されているシステム300又はセクションBに関連して詳述されているシステム700によって実施されてもよく、又はそれを使用して実装されてもよい。方法650の下で、コンピューティングシステム(例えば、画像処理システム205)は、取得されている画像(例えば、画像505)を識別することができる(655)。コンピューティングシステムは、画像をモデル(例えば、部位予測モデル235)に適用することができる(660)。コンピューティングシステムは、結果(例えば、予測原発部位530)を提供することができる(665)。
B.コンピューティング及びネットワーク環境
本明細書に記載されている様々な動作は、コンピュータシステム上で実施することができる。図7は、本開示の特定の実施形態を実装するために使用可能な、代表的なサーバシステム700、クライアントコンピュータシステム714、及びネットワーク726の単純化されたブロック図を示す。様々な実施形態において、サーバシステム700又は同様のシステムは、本明細書に記載されているサービス若しくはサーバ又はその部分を実装することができる。クライアントコンピュータシステム714又は同様のシステムは、本明細書に記載されているクライアントを実装することができる。本明細書に記載されているシステム300は、サーバシステム700と同様とすることができる。サーバシステム700は、複数のモジュール702(例えば、ブレードサーバ実施形態におけるブレード)を組み込んだモジュール式設計を有することができ、2つのモジュール702が示されているが、任意の数を提供することができる。各モジュール702は、処理ユニット704及びローカルストレージ706を含むことができる。
処理ユニット704は、1つ又は複数のコアを有することができる単一のプロセッサ、又は複数のプロセッサを含むことができる。いくつかの実施形態において、処理ユニット704は、汎用プライマリプロセッサ、及び、グラフィックスプロセッサ、デジタル信号プロセッサなどのような1つ又は複数の専用コプロセッサを含むことができる。いくつかの実施形態において、処理ユニット704の一部又はすべては、特定用途向け集積回路(ASIC)又はフィールドプログラマブルゲートアレイ(FPGA)などの、カスタム回路を使用して実装することができる。いくつかの実施形態において、そのような集積回路は、回路自体に記憶されている命令を実行する。他の実施形態において、処理ユニット704は、ローカルストレージ706に記憶されている命令を実行することができる。任意の組合せにおける任意のタイプのプロセッサを、処理ユニット704に含めることができる。
ローカルストレージ706は、揮発性記憶媒体(例えば、DRAM、SRAM、SDRAMなど)及び/又は不揮発性記憶媒体(例えば、磁気又は光ディスク、フラッシュメモリなど)を含むことができる。ローカルストレージ706に組み込まれる記憶媒体は、所望に応じて、固定、取り外し可能又はアップグレード可能とすることができる。ローカルストレージ706は、システムメモリ、読み出し専用メモリ(ROM)、及び永久記憶デバイスなどの様々なサブユニットに物理的又は論理敵に分割することができる。システムメモリは、ダイナミックランダムアクセスメモリなどの、リード/ライトメモリデバイス又は揮発性リード/ライトメモリとすることができる。システムメモリは、処理ユニット704が実行時に必要とする命令及びデータの一部又はすべてを記憶することができる。ROMは、処理ユニット704によって必要とされる静的データ及び命令を記憶することができる。永久記憶デバイスは、モジュール702が電源停止されているときであっても命令を記憶することができる不揮発性リード/ライトメモリデバイスとすることができる。本明細書において使用されるものとしての「記憶媒体」という用語は、データを無制限に(重ね書き、電気的擾乱、電力損失などを受ける)記憶することができる任意の媒体を含み、無線で又は有線接続を介して伝播する搬送波及び一時的電子信号を含まない任意の媒体を含まない。
いくつかの実施形態において、ローカルストレージ706は、オペレーティングシステム、及び/或いは、図5のシステム500又は本明細書に記載されている任意の他のシステム、又はシステム500若しくは本明細書に記載されている任意の他のシステムの機能などの様々なサーバ機能を実装するプログラムなどの、処理ユニット704によって実行される1つ又は複数のソフトウェアプログラムを記憶することができる。
「ソフトウェア」は、一般に、処理ユニット704によって実行されると、サーバシステム700(又はその部分)に、様々な動作を実施させ、したがって、ソフトウェアプログラムの動作を実行及び実施する1つ又は複数の特定の機械実施形態を定義させる一連の命令を指す。命令は、読み出し専用メモリ内に存在するファームウェア、及び/又は、処理ユニット704による実行のために揮発性作業メモリに読み出すことができる不揮発性記憶媒体に記憶されるプログラムコードとして記憶することができる。ソフトウェアは、単一のプログラム又は別個のプログラムの集合又は所望に応じて相互作用するプログラムモジュールとして実装することができる。ローカルストレージ706(又は後述する非ローカルストレージ)から、処理ユニット704は、実行するためのプログラム命令、及び、上述した様々な動作を実行するために処理するためのデータを取り出すことができる。
いくつかのサーバシステム700において、複数のモジュール702を、バス又は他の相互接続部708を介して相互接続することができ、モジュール702とサーバシステム700の他の構成要素との間の通信をサポートするローカルエリアネットワークが形成される。相互接続部708は、サーバラック、ハブ、ルータなどを含む様々な技術を使用して実装することができる。
広域ネットワーク(WAN)インターフェース710は、ローカルエリアネットワーク(相互接続部708)とインターネットなどのネットワーク726との間のデータ通信機能を提供することができる。有線(例えば、イーサネット、IEEE702.3規格)及び/又は無線技術(例えば、Wi-Fi、IEEE702.11規格)を含む技術を使用することができる。
いくつかの実施形態において、ローカルストレージ706は、相互接続部708上のトラフィックを低減しながら処理されるべきプログラム及び/又はデータへの高速アクセスを提供する、処理ユニット704の作業メモリを提供するように意図されている。相互接続部708に接続することができる1つ又は複数の大容量ストレージサブシステム712によって、大量のデータのためのストレージをローカルエリアネットワーク上に提供することができる。大容量ストレージサブシステム712は、磁気、光、半導体、又は他のデータ記憶媒体に基づくことができる。ダイレクトアタッチドストレージ、ストレージエリアネットワーク、ネットワーク接続ストレージなどを使用することができる。サービス又はサーバによって作成、消費、又は維持されているものとしての、本明細書に記載されている任意のデータストア又は他のデータ集合を、大容量ストレージサブシステム712に記憶することができる。いくつかの実施形態において、追加のデータ記憶リソースが、WANインターフェース710を介してアクセス可能であり得る(場合によって待ち時間が増大している)。
サーバシステム700は、WANインターフェース710を介して受信される要求に応答して動作することができる。例えば、モジュール702のうちの1つは、監督機能を実装し、受信される要求に応答して個別のタスクを他のモジュール702に割り当てることができる。作業配分技法を使用することができる。要求が処理されると、WANインターフェース710を介して要求元に結果を返すことができる。そのような動作は一般に自動化することができる。さらに、いくつかの実施形態において、WANインターフェース710は、複数のサーバシステム700を互いに接続し、大量の活動を管理することが可能であるスケーラブルなシステムを提供することができる。動的リソース配分及び再配分を含む、サーバシステム及びサーバファーム(協働するサーバシステムの集合)を管理するための他の技法を使用することができる。
サーバシステム700は、インターネットなどの広域ネットワークを介して、様々なユーザ所有又はユーザ操作デバイスと相互作用することができる。ユーザ操作デバイスの一例が、クライアントコンピューティングシステム714として図7に示されている。クライアントコンピューティングシステム714は、例えば、スマートフォン、他の携帯電話、タブレットコンピュータ、ウェアラブルコンピューティングデバイス(例えば、スマートウォッチ、眼鏡)、デスクトップコンピュータ、ラップトップコンピュータなどのような消費者デバイスとして実装することができる。
例えば、クライアントコンピューティングシステム714は、WANインターフェース710を介して通信することができる。クライアントコンピューティングシステム714は、処理ユニット716、記憶デバイス718、ネットワークインターフェース720、ユーザ入力デバイス722、及びユーザ出力デバイス724などのコンピュータ構成要素を含むことができる。クライアントコンピューティングシステム714は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、スマートフォン、他のモバイルコンピューティングデバイス、ウェアラブルコンピューティングデバイスなどのような、様々なフォームファクタで実装されるコンピューティングデバイスとすることができる。
プロセッサ716及び記憶デバイス718は、上述した処理ユニット704及びローカルストレージ706と同様とすることができる。クライアントコンピューティングシステム714上で課される需要に基づいて、適切なデバイスを選択することができ、例えば、クライアントコンピューティングシステム714は、処理能力が制限されている「シン」クライアントとして、又は、高性能コンピューティングデバイスとして実装することができる。クライアントコンピューティングシステム714には、サーバシステム700との様々なインタラクションを可能にするために処理ユニット716によって実行可能なプログラムコードを提供することができる。
ネットワークインターフェース720は、サーバシステム700のWANインターフェース710も接続される広域ネットワーク(例えば、インターネット)などのネットワーク726への接続を提供することができる。様々な実施形態において、ネットワークインターフェース720は、有線インターフェース(例えば、イーサネット)、及び/又は、Wi-Fi、Bluetooth、若しくはセルラデータネットワーク規格(例えば、3G、4G、LTEなど)のような様々なRFデータ通信規格を実装する無線インターフェースを含むことができる。
ユーザ入力デバイス722は、ユーザがそれを介してクライアントコンピューティングシステム714に信号を提供することができる任意のデバイスを含むことができ、クライアントコンピューティングシステム714は、信号を、特定のユーザ要求又は情報を示すものとして解釈することができる。様々な実施形態において、ユーザ入力デバイス722は、キーボード、タッチパッド、タッチスクリーン、マウス又は他のポインティングデバイス、スクロールホイール、クリックホイール、ダイヤル、ボタン、スイッチ、キーパッド、マイクロフォンなどのいずれか又はすべてを含むことができる。
ユーザ出力デバイス724は、クライアントコンピューティングシステム714がそれを介してユーザに情報を提供することができる任意のデバイスを含むことができる。例えば、ユーザ出力デバイス724は、クライアントコンピューティングシステム714によって生成されるか又はクライアントコンピューティングシステム714に送達される画像を表示するためのディスプレイを含むことができる。ディスプレイは、例えば、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)を含む発光ダイオード(LED)、投影システム、陰極線管(例えばCRT)などの様々な画像生成技術を、支持電子機器(例えば、デジタル-アナログ変換器又はアナログ-デジタル変換器、信号プロセッサなど)とともに組み込むことができる。いくつかの実施形態は、入力と出力の両方のデバイスとして機能するタッチスクリーンなどのデバイスを含むことができる。いくつかの実施形態において、ディスプレイに加えて又はその代わりに他のユーザ出力デバイス724を提供することができる。例は、表示灯、スピーカ、触覚「ディスプレイ」デバイス、プリンタなどを含む。
いくつかの実施形態は、マイクロプロセッサ、コンピュータプログラム命令をコンピュータ可読記憶媒体に記憶するストレージ及びメモリなどの電子構成要素を含む。本明細書に記載の特徴の多くは、コンピュータ可読記憶媒体に符号化されているプログラム命令のセットとして指定されるプロセスとして実装することができる。これらのプログラム命令は、1つ又は複数の処理ユニットによって実行されると、処理ユニットに、プログラム命令において示される様々な動作を実施させる。プログラム命令又はコンピュータコードの例は、コンパイラによって作成されるものなどの機械コード、及び、インタープリタを使用してコンピュータ、電子構成要素、又はマイクロプロセッサによって実行される高位レベルコードを含むファイルを含む。適切なプログラミングを通じて、処理ユニット704及び716は、サーバ又はクライアントによって実施されるものとして本明細書に記載されている機能、又は他の機能のいずれかを含む、サーバシステム700及びクライアントコンピューティングシステム714のための様々な機能を提供することができる。
サーバシステム700及びクライアントコンピューティングシステム714は例示であり、変形及び変更が可能であることが諒解されよう。本開示の実施形態に関連して使用されているコンピュータシステムは、本明細書に具体的に記載されていない他の機能を含むことができる。さらに、サーバシステム700及びクライアントコンピューティングシステム714は、特定のブロックを参照して説明されているが、これらのブロックは説明を簡便にするために定義されており、構成要素部分の特定の物理的構成を暗示するようには意図されていないことは理解されたい。例えば、異なるブロックを同じ施設内、同じサーバラック内、又は同じマザーボード上に配置することができるが、そうする必要はない。さらに、ブロックは、物理的に別個の構成要素に対応する必要はない。ブロックは、例えば、プロセッサをプログラムすること、又は、適切な制御回路を提供することによって、様々な動作を実施するように構成することができ、様々なブロックは、初期構成がどのように得られるかに応じて、再構成可能であってもよく、又はそうでなくてもよい。本開示の実施形態は、回路及びソフトウェアの任意の組合せを使用して実装される電子デバイスを含む様々な装置において実現することができる。
本開示は特定の実施形態を参照して説明してきたが、多数の変更が可能であることが当業者には認められよう。本開示の実施形態は、限定ではないが、本明細書に記載されている特定の例を含む様々なコンピュータシステム及び通信技術を使用して実現することができる。本開示の実施形態は、専用構成要素及び/又はプログラム可能プロセッサ及び/又は他のプログラム可能デバイスの任意の組合せを使用して実現することができる。本明細書に記載されている様々なプロセスは、同じプロセッサ上で、又は、任意の組合せにおける複数の異なるプロセッサ上で実装することができる。構成要素が特定の動作を実施するように構成されているものとして説明されている場合、そのような構成は、例えば、動作を実施するように電子回路を設計することによって、動作を実施するようにプログラム可能電子回路(マイクロプロセッサなど)をプログラムすることによって、又はその任意の組合せによって、そのような構成を達成することができる。さらに、上述した実施形態は、特定のハードウェア及びソフトウェア構成要素を参照し得るが、ハードウェア及び/又はソフトウェア構成要素の異なる組合せも使用されてもよいこと、並びに、ハードウェアにおいて実装されるものとして説明されている特定の動作はまた、ソフトウェアにおいて実装されてもよく、又はその逆であってもよいことが、当業者には諒解されよう。
本開示の様々な特徴を組み込んだコンピュータプログラムは、様々なコンピュータ可読記憶媒体に符号化及び記憶されてもよく、適切な媒体は、磁気ディスク又はテープ、コンパクトディスク(CD)又はDVD(デジタル多用途ディスク)などの光学記憶媒体、フラッシュメモリ、及び他の非一時的媒体を含む。プログラムコードによって符号化されているコンピュータ可読媒体は、適合する電子デバイスとともにパッケージされてもよく、又は、プログラムコードは、電子デバイスとは別個に(例えば、インターネットダウンロードを介して又は別個にパッケージされたコンピュータ可読記憶媒体として)提供されてもよい。
したがって、本開示は特定の実施形態に関連して説明されているが、本開示は、添付の特許請求の範囲内のすべての変更及び均等物をカバーするように意図されていることが諒解されよう。

Claims (20)

  1. 生物医学画像から原発部位を判定する方法であって、
    コンピューティングシステムによって、第1の被験者の状態と関連付けられる原発部位又は二次部位のうちの一方からの第1の試料の第1の生物医学画像を識別することと、
    前記コンピューティングシステムによって、前記第1の生物医学画像を、複数の重みを含む部位予測モデルに適用することであってそれにより前記状態の前記原発部位を判定し、前記部位予測モデルは、複数の例を有する訓練データセットを使用して訓練され、ここで各例は、
    第2の試料が得られた第2の被験者の状態の原発部位又は二次部位のうちの一方からの前記第2の試料の第2の生物医学画像、
    前記第2の生物医学画像が得られた前記第2の試料の前記原発部位又は前記二次部位のうちの一方を識別する第1のラベル、及び
    前記第2の被験者の前記状態の前記原発部位を識別する第2のラベル
    を含むものである、適用することと、
    前記コンピューティングシステムによって、前記部位予測モデルを使用して判定される前記第1の生物医学画像と前記原発部位との間の関連付けを記憶することと
    を含む、方法。
  2. 前記コンピューティングシステムによって、前記第1の生物医学画像と前記原発部位との間の前記関連付けを提供することをさらに含む、請求項1に記載の方法。
  3. 適用することは、前記第1の生物医学画像を前記部位予測モデルに適用することであって、前記第1の被験者の前記状態の複数の候補原発部位を判定するものである、適用することをさらに含む、請求項1に記載の方法。
  4. 適用することは、前記第1の生物医学画像を前記部位予測モデルに適用することであって、前記状態の前記原発部位の信頼スコアを判定するものである、適用することをさらに含む、請求項1に記載の方法。
  5. 適用することは、前記第1の生物医学画像を前記部位予測モデルに適用することであって、前記複数の候補原発部位のランク付けを判定するものである、適用することをさらに含む、請求項に記載の方法。
  6. 前記第1の生物医学画像を識別することは、組織画像作成手段を介して前記第1の試料の前記第1の生物医学画像を得ることをさらに含む、請求項1に記載の方法。
  7. 前記部位予測モデルの前記複数の重みは、(i)前記生物医学画像から複数の特徴マップを生成するための複数の畳み込みブロック、及び、(ii)前記複数の特徴マップに基づいて前記状態の前記原発部位を判定するための活性化層に構成されている、請求項1に記載の方法。
  8. 生物医学画像から原発部位を判定するようにモデルを訓練する方法であって、
    コンピューティングシステムによって、複数の例を有する訓練データセットを識別することであってここで前記複数の例の各例は、
    試料が得られた第2の被験者の状態の原発部位又は二次部位のうちの一方からの前記試料の生物医学画像、
    前記生物医学画像が得られた第2の試料の前記原発部位又は前記二次部位のうちの一方を識別する第1のラベル、及び
    前記第2の被験者の前記状態の前記原発部位を識別する第2のラベル
    を含むものである、識別することと、
    前記コンピューティングシステムによって、前記訓練データセットの前記複数の例の各々の前記生物医学画像を、複数の重みを含む部位予測モデルに適用することであって、前記試料の前記状態の部位を判定するものである、適用することと、
    前記コンピューティングシステムによって、前記訓練データセットの前記複数の例の各例について、前記例の前記ラベルにおいて識別される前記原発部位と、前記部位予測モデルによって判定される前記部位とを比較することと、
    前記コンピューティングシステムによって、各例の前記ラベルにおいて識別される第1の部位と、前記部位予測モデルによって判定される第2の部位との間の比較に基づいて、前記部位予測モデルの前記複数の重みのうちの少なくとも1つを更新することと、
    前記コンピューティングシステムによって、1つ又は複数のデータ構造において、前記部位予測モデルの前記複数の重みを記憶することと
    を含む、方法。
  9. 前記コンピューティングシステムによって、第2の試料の取得されている生物医学画像を前記部位予測モデルに適用することであって、前記第2の試料の第2の部位を判定するものである、適用することをさらに含む、請求項8に記載の方法。
  10. 前記コンピューティングシステムによって、前記複数の例のうちの少なくとも1つの例の損失メトリックが閾値を超えるという判定に応答して、前記少なくとも1つの例の前記生物医学画像を前記部位予測モデルに再適用することをさらに含む、請求項8に記載の方法。
  11. 更新することは、前記比較に基づいて決定される分類損失を使用して、前記部位予測モデルの前記複数の重みのうちの少なくとも1つを更新することをさらに含む、請求項8に記載の方法。
  12. 適用することは、前記訓練データセットの前記複数の例の各々において前記生物医学画像を適用することであって、前記第の被験者の前記状態の複数の候補原発部位を判定するものである、適用することをさらに含む、請求項8に記載の方法。
  13. 適用することは、前記訓練データセットの前記複数の例の各々において前記生物医学画像を適用することであって、前記状態の前記原発部位の信頼スコアを判定するものである、適用することをさらに含む、請求項8に記載の方法。
  14. 前記部位予測モデルの前記複数の重みは、(i)前記生物医学画像から複数の特徴マップを生成するための複数の畳み込みブロック、及び、(ii)前記複数の特徴マップに基づいて前記状態の前記原発部位を判定するための活性化層に構成されている、請求項8に記載の方法。
  15. 物医学画像から原発部位を判定するためのシステムであって、
    メモリと結合されている1つ又は複数のプロセッサを有するコンピューティングシステムであり、
    第1の被験者の状態と関連付けられる原発部位又は二次部位のうちの一方からの第1の試料の第1の生物医学画像を識別することと、
    前記生物医学画像を、複数の重みを含む部位予測モデルに適用することあってそれにより前記状態の前記原発部位を判定し、前記部位予測モデルは、複数の例を有する訓練データセットを使用して訓練され、ここで各例は、
    第2の試料が得られた第2の被験者の状態の原発部位又は二次部位のうちの一方からの前記第2の試料の第2の生物医学画像、
    前記第2の生物医学画像が得られた前記第2の試料の前記原発部位又は前記二次部位のうちの一方を識別する第1のラベル、及び
    前記第2の被験者の前記状態の前記原発部位を識別する第2のラベル
    を含むものである、適用することと、
    前記部位予測モデルを使用して判定される前記第1の生物医学画像と前記原発部位との間の関連付けを記憶することと
    を行うように構成されている、コンピューティングシステムを備える、システム。
  16. 前記コンピューティングシステムは、前記第1の生物医学画像と前記原発部位との間の前記関連付けを提供するようにさらに構成されている、請求項15に記載のシステム。
  17. 前記コンピューティングシステムは、前記第1の生物医学画像を前記部位予測モデルに適用して、前記第1の被験者の前記状態の複数の候補原発部位を判定するようにさらに構成されている、請求項15に記載のシステム。
  18. 前記コンピューティングシステムは、前記第1の生物医学画像を前記部位予測モデルに適用して、前記状態の前記原発部位の信頼スコアを判定するようにさらに構成されている、請求項15に記載のシステム。
  19. 前記コンピューティングシステムは、前記第1の生物医学画像を前記部位予測モデルに適用して、前記複数の候補原発部位のランク付けを判定するようにさらに構成されている、請求項17に記載のシステム。
  20. 前記部位予測モデルの前記複数の重みは、(i)前記生物医学画像から複数の特徴マップを生成するための複数の畳み込みブロック、及び、(ii)前記複数の特徴マップに基づいて前記状態の前記原発部位を判定するための活性化層に構成されている、請求項15に記載のシステム。
JP2022574162A 2020-06-02 2021-06-01 転移部からの病理データを分析するための機械学習モデル Active JP7750877B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2025159572A JP2026016390A (ja) 2020-06-02 2025-09-25 転移部からの病理データを分析するための機械学習モデル

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063033730P 2020-06-02 2020-06-02
US63/033,730 2020-06-02
PCT/US2021/035133 WO2021247491A1 (en) 2020-06-02 2021-06-01 Machine learning model for analyzing pathology data from metastatic sites

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2025159572A Division JP2026016390A (ja) 2020-06-02 2025-09-25 転移部からの病理データを分析するための機械学習モデル

Publications (2)

Publication Number Publication Date
JP2023529609A JP2023529609A (ja) 2023-07-11
JP7750877B2 true JP7750877B2 (ja) 2025-10-07

Family

ID=78705178

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022574162A Active JP7750877B2 (ja) 2020-06-02 2021-06-01 転移部からの病理データを分析するための機械学習モデル
JP2025159572A Pending JP2026016390A (ja) 2020-06-02 2025-09-25 転移部からの病理データを分析するための機械学習モデル

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2025159572A Pending JP2026016390A (ja) 2020-06-02 2025-09-25 転移部からの病理データを分析するための機械学習モデル

Country Status (9)

Country Link
US (2) US11449994B2 (ja)
EP (1) EP4158539A4 (ja)
JP (2) JP7750877B2 (ja)
KR (1) KR20230018404A (ja)
CN (1) CN116157846A (ja)
AU (1) AU2021284253A1 (ja)
BR (1) BR112022024406A2 (ja)
CA (1) CA3181124A1 (ja)
WO (1) WO2021247491A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BR112022024406A2 (pt) * 2020-06-02 2022-12-27 Memorial Sloan Kettering Cancer Center Modelo de aprendizado por máquina para análise de dados de patologia a partir de locais metastáticos
EP4399724A4 (en) * 2021-09-08 2025-06-25 Janssen Research & Development, LLC MULTIMODAL SYSTEM AND METHOD FOR PREDICTING CANCER
US20230315532A1 (en) * 2022-03-29 2023-10-05 Deepmind Technologies Limited Allocating computing resources between model size and training data during training of a machine learning model
WO2024112121A1 (ko) * 2022-11-23 2024-05-30 (주) 노보믹스 위암 병리조직 이미지 판독 인공지능 소프트웨어
CN116664966B (zh) * 2023-03-27 2024-02-20 北京鹰之眼智能健康科技有限公司 一种红外图像处理系统
CN117766134B (zh) * 2024-01-16 2024-11-29 天津大学 一种基于超声图像的甲状腺癌颈部中央区淋巴结转移预测系统
CN120374584B (zh) * 2025-04-22 2025-10-24 唐山市人民医院 一种基于图像识别的肾上腺转移瘤预测分析方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011212094A (ja) 2010-03-31 2011-10-27 Fujifilm Corp 診断支援システム、診断支援装置、診断支援方法および診断支援プログラム
US20170161891A1 (en) 2015-12-03 2017-06-08 Case Western Reserve University Scaling up convolutional networks
US20200035350A1 (en) 2017-02-21 2020-01-30 Koh Young Technology Inc. Method and apparatus for processing histological image captured by medical imaging device

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8346688B2 (en) * 2009-11-25 2013-01-01 International Business Machines Corporation Predicting states of subjects
KR101314097B1 (ko) * 2011-05-11 2013-10-04 국립암센터 말디 질량분석 패턴으로 원발부위 불명 선암의 조직기원을 예측하는 방법
WO2013049153A2 (en) 2011-09-27 2013-04-04 Board Of Regents, University Of Texas System Systems and methods for automated screening and prognosis of cancer from whole-slide biopsy images
US10049447B2 (en) * 2013-11-06 2018-08-14 H. Lee Moffitt Cancer Center and Research Insititute, Inc. Pathology case review, analysis and prediction
BR112016016635A2 (pt) * 2014-01-22 2017-08-08 Zpredicta Inc Método e aparelho para isolar células invasivas e metastáticas para avaliação terapêutica e previsão de capacidade metastática
US9760990B2 (en) * 2014-12-14 2017-09-12 International Business Machines Corporation Cloud-based infrastructure for feedback-driven training and image recognition
HK1248112A1 (zh) 2015-02-02 2018-10-12 Novadaq Technologies ULC 用於表徵受试者的组织的方法和系统
US9704066B2 (en) * 2015-03-20 2017-07-11 Microsoft Technology Licensing, Llc Multi-stage image classification
US10769501B1 (en) * 2017-02-15 2020-09-08 Google Llc Analysis of perturbed subjects using semantic embeddings
CA3081643A1 (en) * 2017-11-06 2019-05-09 University Health Network Platform, device and process for annotation and classification of tissue specimens using convolutional neural network
US10607114B2 (en) * 2018-01-16 2020-03-31 Siemens Healthcare Gmbh Trained generative network for lung segmentation in medical imaging
TWI668666B (zh) * 2018-02-14 2019-08-11 China Medical University Hospital 肝癌分群預測模型、其預測系統以及肝癌分群判斷方法
WO2021041337A1 (en) * 2019-08-23 2021-03-04 Memorial Sloan Kettering Cancer Center Multi-task learning for dense object detection
GB201913616D0 (en) * 2019-09-20 2019-11-06 Univ Oslo Hf Histological image analysis
CN110992338B (zh) * 2019-11-28 2022-04-01 华中科技大学 一种原发灶转移辅助诊断系统
CN111091560A (zh) * 2019-12-19 2020-05-01 广州柏视医疗科技有限公司 鼻咽癌原发肿瘤图像识别方法及系统
BR112022024406A2 (pt) * 2020-06-02 2022-12-27 Memorial Sloan Kettering Cancer Center Modelo de aprendizado por máquina para análise de dados de patologia a partir de locais metastáticos

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011212094A (ja) 2010-03-31 2011-10-27 Fujifilm Corp 診断支援システム、診断支援装置、診断支援方法および診断支援プログラム
US20170161891A1 (en) 2015-12-03 2017-06-08 Case Western Reserve University Scaling up convolutional networks
US20200035350A1 (en) 2017-02-21 2020-01-30 Koh Young Technology Inc. Method and apparatus for processing histological image captured by medical imaging device
JP2020508536A (ja) 2017-02-21 2020-03-19 コー・ヤング・テクノロジー・インコーポレーテッド 医療イメージングデバイスによりキャプチャされた組織学的イメージをプロセッシングするための方法及び装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Dayong Wang et al.,Deep Learning for Identifying Metastatic Breast Cancer,Computer Vision and Pattern Recognition,米国,Cornell University,2016年,p.1-p.6,https://arxiv.org/pdf/1606.05718
Sandeep Angara et al.,Convolutional Neural Networks for Breast Cancer Histopathological Image Classification,2018 4th International Conference on Cognitive Infocommunications,米国,IEEE,2019年,https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9089939

Also Published As

Publication number Publication date
JP2026016390A (ja) 2026-02-03
CN116157846A (zh) 2023-05-23
US11449994B2 (en) 2022-09-20
EP4158539A4 (en) 2024-06-26
KR20230018404A (ko) 2023-02-07
WO2021247491A1 (en) 2021-12-09
CA3181124A1 (en) 2021-12-09
US20210374954A1 (en) 2021-12-02
BR112022024406A2 (pt) 2022-12-27
JP2023529609A (ja) 2023-07-11
AU2021284253A1 (en) 2023-01-05
EP4158539A1 (en) 2023-04-05
US20230021031A1 (en) 2023-01-19

Similar Documents

Publication Publication Date Title
JP7750877B2 (ja) 転移部からの病理データを分析するための機械学習モデル
US12056878B2 (en) Deep interactive learning for image segmentation models
CN112771581B (zh) 用于对免疫疗法和放射疗法的分割、结果预测和纵向应答监测的多模态、多分辨率深度学习神经网络
US20230298172A1 (en) Systems and methods for image classification using visual dictionaries
US12198457B2 (en) Multi-task learning for dense object detection
US20240054639A1 (en) Quantification of conditions on biomedical images across staining modalities using a multi-task deep learning framework
CN111542830A (zh) 利用卷积神经网络处理组织学图像以识别肿瘤
CN113614780A (zh) 使用损失函数学习检测模型
US9031306B2 (en) Diagnostic and prognostic histopathology system using morphometric indices
JP7627790B2 (ja) ホールスライド画像の検索
US12450735B2 (en) Learning representations of nuclei in histopathology images with contrastive loss
Prezja et al. Improved accuracy in colorectal cancer tissue decomposition through refinement of established deep learning solutions
Nadeem et al. Automated CAD system for early detection and classification of pancreatic cancer using deep learning model
CN113223017A (zh) 目标分割模型的训练方法、目标分割方法及设备
WO2021011581A1 (en) Image-based predictive model for lung cancer
US12450242B2 (en) Ranking cross-disorder features in multiway data interactions
US20240395412A1 (en) Generating cumulant-based risk scores for diseases
US12406511B2 (en) Determining scores indicative of times to events from biomedical images
Ritter et al. Emerging tools for computer-Aided diagnosis and prognostication
Ginestet et al. A Deep CNN Approach For Predicting Cumulative Incidence Based On Pseudo-Observations
Kumari et al. An Overview of Integrative Approaches Combining ADE and LASSO for Feature Selection in Ovarian Cancer Detection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250729

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20250827

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250925

R150 Certificate of patent or registration of utility model

Ref document number: 7750877

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150