Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6799146B2 - 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー - Google Patents
[go: Go Back, main page]

JP6799146B2 - 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー - Google Patents

視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー Download PDF

Info

Publication number
JP6799146B2
JP6799146B2 JP2019513771A JP2019513771A JP6799146B2 JP 6799146 B2 JP6799146 B2 JP 6799146B2 JP 2019513771 A JP2019513771 A JP 2019513771A JP 2019513771 A JP2019513771 A JP 2019513771A JP 6799146 B2 JP6799146 B2 JP 6799146B2
Authority
JP
Japan
Prior art keywords
image
digital pathology
tissue slide
user
slide
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019513771A
Other languages
English (en)
Other versions
JP2019533805A (ja
Inventor
バーンズ,マイケル
ブレドノ,イェルク
チュッカ,スリニヴァス
サーカー,アニンディア
スズエ,エレン
ギュッター,クリストフ
ロルサクル,アウラヌチ
Original Assignee
ベンタナ メディカル システムズ, インコーポレイテッド
ベンタナ メディカル システムズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベンタナ メディカル システムズ, インコーポレイテッド, ベンタナ メディカル システムズ, インコーポレイテッド filed Critical ベンタナ メディカル システムズ, インコーポレイテッド
Publication of JP2019533805A publication Critical patent/JP2019533805A/ja
Application granted granted Critical
Publication of JP6799146B2 publication Critical patent/JP6799146B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Image Analysis (AREA)

Description

[0001]本発明は、一般に、スライド全域(whole−slide)画像の定量分析ならびにそれの直観的な視覚化(visualization)を提供するためのワークフローをホストするデジタル病理学(digital pathology)システムに関する。より詳細には、本ワークフローは、生体外診断を援助するためのバイオマーカー発現の精密な定量化を提供する。
[0002]デジタル病理学機器が、しばしば、顕微鏡スライドのデジタル画像を生成するために使用される。病理学者および組織科学技術者が、しばしば、組織サンプルに関する情報を取得し、臨床成果を改善するための最も適切な処置を特定するために、デジタル画像を視覚的に検査する。
[0003]現在のデジタル病理学画像分析システムが、組織スライド(tissue slide)または「仮想スライド(virtual slide)」の大量の高解像度デジタル画像を分析することがますます予想される。デジタル画像分析は、計算集約的であり、かなりの記憶域を必要とし、リアルタイム診断および対話実行のための能力を下げることが立証された。
[0004]さらに、従来のデジタル病理学システムは、典型的に、概して視野(FOV:field of view)と呼ばれる、デジタルスライドの1つまたは複数の小さいエリアを分析する。デジタルスライドのそのような区分は、スライドに付着された組織全体の情報を表現する可能性が高いFOVを慎重に選択することによって正しい解決策に近づくことにかなりの精神的労力をささげることをユーザまたは病理学者に強制する。
[0005]現在のデジタル病理学システムは、それらの潜在的な利点にもかかわらず、組織スライド全体の迅速なリアルタイム定量分析ならびにそれの直観的な視覚化を提供することにおいて、所望の効率を達成しなかった。
[0006]たとえば、限られた処理能力をもつ従来のデジタル画像化システムは、各視野のサイズを、約1,000〜2,500ピクセル、たとえば60,000〜110,000ピクセルを含むことができるスライド全域画像のごく一部に制限し、たとえば0.5GBから1.5GBのメモリ空間を占有する。
本願発明の一実施例は、例えば、視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフローに関する。
[0007]スライド全域画像分析が、治療、予後、または診断決定支援のための自動化された画像分析において広く適応されるようになることが予期される。したがって、本開示は、組織スライド全体の定量分析ならびに直観的な視覚化を実施するためのデジタル病理学システムにおいて使用するための効率的なスライド全域画像分析ワークフローについて説明する。
[0008]より詳細には、本ワークフローは、病理学者が正確な生体外診断を提供するのを援助するためのバイオマーカー発現の精密な視覚定量化を効果的に提供する。
[0009]
本デジタル病理学システムは、自動化されたデジタルスライド作成、管理、分析、および閲覧を提供する。それは、特定の形態、色、輝度、サイズ、パターン、および形状に基づく、臨床的関心組織および細胞の表示、検出、計数、検討、および分類における病理学者への援助として、生体外診断のために使用され得る。
[0010]本デジタル病理学システムのワークフローは、組織サンプルを含んでいるスライド全体にわたる臨床的に関連する形態(clinically relevant morphology)(たとえば、1つまたは複数の固形腫瘍エリア)を自動的にアウトラインするか、または病理学者などのユーザがそれを効率的にアウトラインすることを可能にすることができる。次いで、定量分析結果が、効率的および直観的に、(いくつかの場合には数千個または何百万個もの細胞を含んでいることがある)アウトラインされた臨床的に関連する形態全体について数秒以内にユーザに提供される。さらに、本ワークフローは、この莫大な量のデータの視覚化を効果的に可能にし、これは、診断を著しく改善し、バイオマーカー発現レベルについて情報および信頼性をユーザに提供する。
[0011]本ワークフローは、ワークフローモジュール上に存在し得る。本ワークフローは、リモートまたはローカル病理学ワークステーション上で実行され得、ユーザとのインターフェースとして働き得る。ワークフローは、ユーザが症例を分析することを開始する前に、(1つまたは複数の)スライド全域画像を準備することによって開始し得る。この目的で、本デジタル病理学システムは、様々な倍率レベルにおいてユーザによって閲覧および評価され得るスライド全体のスキャンされたデジタル画像を収集し得る。
[0012]一実施形態では、ユーザは、スライド全域画像を検討し、スライド全域画像中で、関連するエリアを関連しないエリアから手動で分離する。この目的で、ユーザは、たとえば、マウスなどの入力デバイスを使用して、またはタッチセンシティブディスプレイの場合には指を使用して、関連するエリアをアウトラインすることによって、1つまたは複数の関連するエリアを手動で選択するために本デジタル病理学システムに頼る。各アウトラインされた関連するエリアは、異なる倍率レベルにおいて閲覧され得る。選択された関連するエリアは、本明細書では「腫瘍エリア全域(whole tumor areas)」または「臨床的に関連する形態」とも呼ばれて、選択された関連するエリア内に、随意の周囲の関心領域とともに腫瘍エリア全体(entire tumor areas)を含める能力を示す。
[0013]ユーザが、組織サンプル中の関連する関心エリアを定義および選択することについて、矩形などの特定の幾何学的形状によってもはや制限されないことが十分に明らかであるべきである。むしろ、本デジタル病理学システムは、関連する関心エリアの周りの境界を手動でスケッチすることによってなど、関連するエリアをアウトラインすることによって、ユーザが、組織サンプル中の大きい関連するエリアのフリーハンド選択を実施することを可能にする。
[0014]他の手動選択方法が使用され得ることも理解されたい。一例として、ユーザは、スコアリングを必要とする関心エリアを指定するために、スライド全域デジタル画像にアノテーションを付けることを可能にされる。代替的に、関連するエリアの選択プロセスが、本デジタル病理学システムによって自動的に実施され得る。
[0015]関連するエリアを選択するステップが完了されると、ユーザは、選択された関連するエリアの画像分析アルゴリズムを始動する画像分析モジュールを呼び出す。画像分析モジュールは、たとえば、陽性百分率免疫細胞スコア(percent positive immune cell score)の形態の細胞検出および分類に基づく臨床スコアを提供する。一実施形態では、臨床スコアは0から100にわたり、「0」は、発現の1つまたは複数の関心バイオマーカーの発現がないことを示し、「100」は、1つまたは複数の関心バイオマーカーの全部の発現を示す。スコアリング結果は、診断(陽性/陰性)または処置決定を通知することなど、大量の生物学的情報を表現する。
[0016]視覚化モジュールが、画像分析結果のコンピュータ生成されたオーバーレイを準備し、密度の表現として、最初に選択されたスライド全域画像の上へのスコアリング結果のユーザフレンドリな視覚レンダリングをユーザに提供する。オーバーレイは、ヒートマップ、ロケーションマップ、相関マップなど、1つまたは複数のマップを表現することができ、適用例に応じて色および/または線を使用して情報の変形態を示すことができる。
[0017]視覚化モジュールによる視覚レンダリングを検討するときに、ユーザは、ひだ(fold)、間質(stroma)分離アーテファクト、スペックル(speckling)、空白エリア(すなわち、実質的に組織が存在しないエリア)など、不要なアーテファクトを除去するためのアーテファクト抽出モジュールを随意に呼び出すことができる。アーテファクト除去は、アーテファクトを手動でアウトラインすることによって、または視覚レンダリングからアーテファクトエリアを検出、視覚化、および除外する自動化された方法に頼ることによって実施され得る。
[0018]ユーザは、炭粉色素、壊死、血管内の好中球など、不要な組織または染色内容物を除去するための組織内容物抽出モジュールをさらに随意に呼び出すことができる。組織または染色内容物の除去は、関心エリアを手動でアウトラインすることによって、または組織内容物の検出および抽出の自動化された方法を採用することによって実施され得る。
[0019]したがって、視覚レンダリングは、固形腫瘍エリアなど、ユーザによって選択された臨床的に関連するエリアに関係する、大きい、正確な、および特定の生物学的情報を表現することになるが、壊死、ならびに様々なアーテファクトおよび組織内容物など、ユーザによって無関係であると考えられるデータを除外する。視覚レンダリングは、認定された病理学者が、より正確な診断解釈を提供するのを支援することが予想される。
[0020]ユーザは、次いで、視覚レンダリングを受け入れるべきなのか、部分的にまたは全体としてのいずれかで手動でそれをオーバーライドすべきなのかを決定する。オーバーライドが選択された場合、画像分析モジュール、アーテファクト抽出モジュール、および組織内容物抽出モジュールのうちのいずれか1つまたは複数の結果が選択的に無視され得、ユーザは、視覚化モジュールによって提供された視覚レンダリングの評価からそのユーザが導出した最終スコアを手動で入力する能力を提供される。
[0021]本特許または出願ファイルは、少なくとも1つのカラーで作成された図面を含んでいる。(1つまたは複数の)色図面をもつ本特許または特許出願公開のコピーは、要求および必要な料金の支払いに応じて官庁によって提供される。
[0022]本発明の様々な特徴およびそれらを達成する様式が、以下の説明、特許請求の範囲、および図面を参照しながら、より詳細に説明される。
[0023]本発明の一実施形態による、スライド全域画像の視覚定量分析ならびにバイオマーカー発現の定量化の直観的な視覚化を提供するための、ネットワーク環境において動作し、ワークフローモジュール上に存在するワークフローをホストする、例示的なコンピュータベースのデジタル病理学システムを示す図である。 [0024]図1のワークフローモジュールの例示的な概観ブロック図である。 [0025]本発明の一実施形態による、ユーザが、スライド全域画像上ですべての固形腫瘍エリアを含む臨床的に関連する形態を効率的にアウトラインすることを可能にするための、図1および図2のワークフローモジュールの全体的な動作を示す、例示的な高レベルフローチャートである。 [0026]本発明の代替実施形態による、図1および図2のワークフローモジュールの全体的な動作の例示的なフローチャートを表現する図である。 本発明の代替実施形態による、図1および図2のワークフローモジュールの全体的な動作の例示的なフローチャートを表現する図である。 [0027]図1のデジタル病理学システムの一部を形成するスキャナによって生成された、例示的なスライド全域画像を示す図である。 [0028]図1および図2のワークフローモジュールを呼び出す前の、異なる倍率を使用した閲覧環境を示す、図5に示されているスライド全域画像の例示的なスクリーンショットである。 図1および図2のワークフローモジュールを呼び出す前の、異なる倍率を使用した閲覧環境を示す、図5に示されているスライド全域画像の例示的なスクリーンショットである。 図1および図2のワークフローモジュールを呼び出す前の、異なる倍率を使用した閲覧環境を示す、図5に示されているスライド全域画像の例示的なスクリーンショットである。 図1および図2のワークフローモジュールを呼び出す前の、異なる倍率を使用した閲覧環境を示す、図5に示されているスライド全域画像の例示的なスクリーンショットである。 [0029]図1および図2のワークフローモジュールを呼び出すことに備えて、図6〜図9のスライド全域画像内に、臨床的に関連する形態または関連するエリアをキャプチャするために、ユーザによって追加される例示的なアノテーションを示すスクリーンショットである。 [0030]ユーザの低倍率におけるスライド全域パターンの理解ならびに高倍率における個々の細胞結果の理解を支援するオーバーレイをユーザに提供し、図10の関連するエリアの定量スコアリングパターンをユーザにさらに提供する、図1および図2のワークフローモジュールによって実施される分析の視覚レンダリングを示す例示的なスクリーンショットである。 [0031]図を比較する能力と、図1および図2のワークフローモジュールによって提供された分析をより良く評価する能力とをユーザに提供するために、変動する倍率レベルにおいて、図11の視覚レンダリングと図10のアノテーション付きの図との間でトグルするために、ワークフローモジュールによってユーザに提供された能力を示す例示的なスクリーンショットである。 図を比較する能力と、図1および図2のワークフローモジュールによって提供された分析をより良く評価する能力とをユーザに提供するために、変動する倍率レベルにおいて、図11の視覚レンダリングと図10のアノテーション付きの図との間でトグルするために、ワークフローモジュールによってユーザに提供された能力を示す例示的なスクリーンショットである。 図を比較する能力と、図1および図2のワークフローモジュールによって提供された分析をより良く評価する能力とをユーザに提供するために、変動する倍率レベルにおいて、図11の視覚レンダリングと図10のアノテーション付きの図との間でトグルするために、ワークフローモジュールによってユーザに提供された能力を示す例示的なスクリーンショットである。 [0032]図11の視覚レンダリング内の指定された臨床的に関連する形態の高倍率図を示す例示的なスクリーンショットであり、オーバーレイ中の個々のドットが、個々の分類された細胞をマークし、したがって、ユーザが、低倍率におけるスライド全域パターンと、極めて粒度の細かい比較のための高倍率における個々の細胞結果とを理解することを可能にする、図である。 [0033]図1および図2のワークフローモジュールによる視覚レンダリングのより良い認識を可能にするための、オーバーレイがOFFにトグルされている、図15と同じ臨床的に関連する形態の例示的なスクリーンショットである。 [0034]図1および図2のワークフローモジュールによるスコアリング評価を受け入れるか、オーバーライドするか、または変更するかのいずれかの能力をユーザに提供する、図11の分析レンダリングの例示的なスクリーンショットである。 [0035]腫瘍の例示的なサンプル中のバイオマーカー発現を視覚化する、H&Eスクリーンショット画像(A)とPD−L1スクリーンショット画像(B)との例示的な並列比較図であり、画像(B)がPD−L1膀胱上のオーバーレイを示し、陽性エリアが色付きドットによって表現された、図である。 [0036]2倍倍率レベルにおける例示的な色付きオーバーレイの例示的なスクリーンショットである。 10倍倍率レベルにおける例示的な色付きオーバーレイの例示的なスクリーンショットである。 [0037]本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。 本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。 本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。 本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。 本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。 本発明のスライド全域ヒートマップ視覚化プロセスの例示的な図である。
[0038]例示の簡潔および明快のために、参照番号は、対応するまたは類似する特徴を示すために図の間で再利用され得ることが諒解されよう。
[0039]図1は、本発明の一実施形態による、スライド全域画像の視覚定量分析ならびにバイオマーカー発現の定量化の直観的な視覚化を提供するための、ネットワーク環境において動作する、コンピュータベースのデジタル病理学システム100を示す。デジタル病理学システム100は、ネットワーク130を介して複数のクライアントコンピュータシステム(またはユーザ局)140、142とインターフェースする。
[0040]デジタル病理学システム100は、特に、染色器(stainer)110と、スキャナ111と、ワークフローモジュール200と、プロセッサまたはコンピュータ125とを含み得る。病理学者、組織科学技術者、または同様の専門家など、クライアントコンピュータシステム140、142のユーザは、リモートまたはローカルのいずれかで、リアルタイムベースで、スキャナ111およびワークフローモジュール200の出力にアクセスし、それを閲覧し、それとインターフェースすることが可能であり得る。これらの出力は、代替的に、ネットワーク化されたデータベース150上で記憶およびアクセスされ得る。
[0041]図2中でさらに詳述されるように、ワークフローモジュール200は、概して、画像分析モジュール210と、視覚化モジュール220と、アーテファクト抽出モジュール230と、組織内容物抽出モジュール240とを含み得、それらの動作がより詳細に説明される。
[0042]ワークフローモジュール200は、プロセッサ125および1つまたは複数のユーザ局140、142上で実行されるワークフロー300(図3)をホストし得る。ワークフロー300は、ステップ305において、組織サンプルを染色することを含む、適切なアッセイガイドラインに従って(1つまたは複数の)デジタル病理学スライドを準備することによって開始する。例示的な実装形態では、たとえば、Ventana Medical Systems社によって開発されたPD−L1(SP142)アッセイを採用することによって、PD−L1タンパク質の存在に対する免疫組織化学(IHC)染色を使用して染色された組織切片(たとえば、ホルマリン固定パラフィン包埋(FFPE:formalin−fixed,paraffin−embedded)組織切片)を含んでいる、1つまたは複数の顕微鏡ガラススライドの画像が収集された。IHCスライドは、たとえば、同じくVentana Medical Systems社の製品のベンチマークULTRA染色器(BenchMark ULTRA stainer)110上で染色され得る。IHCスライドに加えて、いくつかの実施形態では、他のIHC染色、ヘマトキシリンおよびエオシン(H&E:hematoxylin and eosin)染色を用いてまたは他のタイプの染色技法を使用して染色され得る、同じ組織ブロックの隣接する組織切片を含んでいるスライドの追加のデジタル画像が収集され得る。
[0043]ステップ310において、スキャナ111は、ユーザが症例を分析することを開始する前に、サンプル組織の(1つまたは複数の)スライド全域画像500(図5)を収集する。スキャンされたデジタル画像500は、様々な倍率レベルにおいてユーザによって閲覧および評価され得る。たとえば、スライドは、モノクロームまたは複数の色チャネル中の標本のデジタル画像500を生成することができるVENTANA iScan HTスライド全域スキャナ111にロードされ得る。このデジタル画像500は、たとえば、データベース150に記憶され得る。バッチ制御もスキャンされ、検討のために利用可能であり得る。
[0044]ステップ315において、ユーザは、ワークフローモジュール200によって提供される画像分析の恩恵なしに、関連するエリア(または臨床的に関連する形態)610(図6)のデジタル画像を検討し得る。図6〜図9は、図1および図2のワークフローモジュール200の呼出しより前の、異なる倍率レベルを使用したこの関連するエリア610の様々なスクリーンショット600、700、800、900を示す。ユーザがデジタル画像600を検討するとき、ユーザは、スライドの全体的な陽性度を構築することと、染色された細胞の関連性を評価することとを始めることになる。ユーザは、次いで、腫瘍エリアなどの関連するエリアを定義(または特定)し、それに応じてスライド全域画像500にアノテーションを付ける。いくつかの実施形態では、本開示の他の部分で説明されるように、関連するエリアは、ユーザの入力なしに自動的に特定され得る。
[0045]ワークフローモジュール200の画像分析モジュール210は、ステップ320において、スライド全体にわたる内容物を独立して分析することができる。いくつかの実施形態では、「スライド全体」を分析することは、少なくともいくつかの組織を含んでいるスライドのすべてのエリアを分析することを意味することができる。すなわち、いくつかの実施形態では、スライド全体を分析することが、自動的に、スライド全域画像内で組織(すなわち、生物学的材料)を含んでいないエリアを検出することと、そのようなエリアを分析から除外することと、少なくともいくつかの組織を含んでいるエリアのみを分析することとを含むことができる。
[0046]画像分析モジュール210は、陽性百分率免疫細胞スコアの形態の細胞検出および分類に基づく最初の臨床スコアを提供することができる。好ましい実施形態では、臨床スコアは0から100にわたり、「0」は、発現の1つまたは複数の関心バイオマーカーの発現がないことを示し、「100」は、1つまたは複数の関心バイオマーカーの全部の発現を示す。スコアリング結果は、細胞タイプ、ロケーション、密度、形成など、大量の生物学的情報を表現する。
[0047]図21〜図26に関してより詳細に後で説明されるように、視覚化モジュール220は、画像分析結果のコンピュータ生成されたオーバーレイを準備し、選択された臨床的に関連する形態上のバイオマーカー発現の密度の表現として、最初に選択されたスライド全域画像の上へのスコアリング結果のユーザフレンドリな視覚レンダリング(またはオーバーレイ)1100(図11)をユーザに提供する。オーバーレイは、ヒートマップ、ロケーションマップ、相関マップなど、1つまたは複数のマップを表現することができ、適用例に応じて情報の変形態を示すことができる。より詳細には、ワークフローモジュール200は、バイオマーカー発現の精密な視覚定量化を含む、組織スライド全体の定量分析ならびにそれの直観的な視覚化を提供する。
[0048]画像分析モジュール210は、典型的に、画像がスキャンされ、画像分析モジュール210に利用可能になった直後に、オフラインでスライド全体を分析する。分析は、スライド内のすべての関心オブジェクト(たとえば、細胞)のロケーションを決定することと、それらを分類すること(すなわち、それらのタイプを決定すること)と、関心オブジェクトに関係する任意の他の情報とともにロケーションおよび分類データをデータベース150に記憶することとを含み得る。
[0049]スライド全体のサイズ、それが含んでいる量情報、および分析モジュール210の処理能力に応じて、上記で説明されたスライド全体の分析は、かなりの時間、時々10分以上もの長い時間を要することがある。したがって、この分析を「オフラインで」行うこと(すなわち、スライド画像がスキャンされるとすぐに、スライドがユーザによって要求される前に分析を始めること)は、検討およびアノテーションのために初めてユーザが分析にアクセスする時間までには、分析が完了されることを可能にし得る。画像分析モジュール210は、アノテーションを追加すること、たとえば、関連する臨床的に関連する形態1020(図10)の周りの境界1010を描画することなどによる、得られた分析とのユーザの対話を予期する。
[0050]したがって、ユーザが、得られた分析と対話することを開始する時間までには、細胞の位置を特定することおよび細胞を分類することなど、すべての計算集約的なステップは、データベース150に結果が記憶されて完了され得、その場合、画像分析モジュール210は、事前計算された情報をデータベース150からロードし、定量化動作、たとえば、選択された臨床的に関連する形態内のあるタイプの細胞を定量化することを実施する必要があり得るにすぎない。そのような定量化動作は、定量化結果が極めて短い時間内に(たとえば、1秒内にまたは数秒内に)可視になる「リアルタイム」体感をユーザに提供するのに十分に迅速に実施され得る。
[0051]いくつかの実施形態では、オフライン分析の一部として、画像分析モジュール210はまた、異なるタイプの特定されたオブジェクト(たとえば、細胞)に対応する1つまたは複数のスライド全域オーバーレイ画像を生成し、データベース150に記憶し得る。このようにして、ユーザが、臨床的に関連する形態の領域を選択したとき、画像分析モジュール210は、(1つまたは複数の)オーバーレイ画像を生成する代わりに、データベース150から事前生成された(1つまたは複数の)オーバーレイ画像をロードし、臨床的に関連する形態の選択された領域に対応する(1つまたは複数の)オーバーレイ画像の部分を表示し得る。
[0052]ワークフロー300のステップ325において、ユーザは、たとえば、ヒートマップオーバーレイをオンおよびオフにトグリングすることによって、および視覚レンダリング1100の全体的なスライドスコアを複数の倍率において比較することによって、アノテーション付きのスライド全域画像500(ステップ315)をスコアリングされた視覚レンダリング1100(ステップ320)と比較する。図10のスクリーンショット1000に示されているように、ユーザは、次いで、関連する関心エリア1020(たとえば、固形腫瘍エリアおよび周囲領域)の周りに輪郭1010を描画することなどによって、視覚レンダリング1000上の関連するエリア1020にアノテーションを付ける。
[0053]輪郭1010は、輪郭1010内の関連するエリア1020に分析を排他的に限定するようにとの、ワークフローモジュール200への命令を表現する。ワークフロー300は、腫瘍全域レベルでの評価を必要とするので、ユーザのアノテーションは、すべての関連するまたは疑わしい腫瘍エリアをキャプチャするように描画される。ユーザは、輪郭1010内に包含すべき関連するエリアのユーザの理解を改善し続けるために、陰性コントロールまたはH&Eを参照する必要があり得る。いくつかのエリアが、壊死の大きいエリアなど、スライド全域スコアに無関係な場合、ユーザは、それらの関連しないエリアを分析から除去するために、レンダリング1000にアノテーションを付けるか、または代替的に1つまたは複数の除外視野を使用することができる。代替的に、オリジナルの輪郭1010は再描画され得る。
[0054]ステップ330において、ユーザは、ワークフローモジュール200の画像分析モジュール210および視覚化モジュール220に、分析およびレンダリングをアノテーション付きの関連するエリア1020に排他的に限定するように命令し、したがって、処理およびレンダリング時間を最小限に抑え、分析プロセスを促進するために、画像分析モジュール210上に組み込まれた画像分析アルゴリズムを呼び出し、ユーザアノテーション1010をそれにフォワーディングする。
[0055]ステップ335において、ワークフローモジュール200は、関連するエリア610(図6)のデジタル画像レンダリングに対して、ユーザ検討のための2つの主要な情報を生成することによって、ユーザの呼出しに応答する。第1の情報は、ワークフローモジュール200が陽性PD−L1免疫細胞のロケーションを示す、オーバーレイ1120(図11)を含む。このデータは、単一細胞分類レベルに基づき、したがって、任意の特定のエリアが、陽性ICの高い密度を有するとき、色は、低い倍率において視覚化されるエリアを形成するように融合する。ユーザが、アノテーションオーバレイ1120をより高い倍率で閲覧するとき、個々のドットが、個々の分類された細胞をマークし、低い倍率においてスライド全域パターンを理解する能力と、また、極めて粒度の細かい比較のために高い倍率で個々の細胞結果を理解する能力とをユーザに与える。
[0056]図12のスクリーンショット1200にさらに示されているように、このアノテーションオーバレイ1120は、オンおよびオフにトグルされ得、ユーザが、低い倍率レベルおよび高い倍率レベルにおいて、画像分析がないデジタル画像レンダリング1200を、本発明の画像分析を含んでいるデジタル画像レンダリング1100と比較することを可能にする。それぞれ、図13、図14のスクリーンショット1300、1400が参照される。これは、ワークフローモジュール200が、どのように高い倍率において細胞を、ならびに低い倍率において染色の全体的なパターンを分類するかをユーザが理解することを可能にする。
[0057]ワークフローモジュール200によって提供される第2の情報は、ユーザが、画像分析結果を、(図11のスクリーンショット1100の左マージンに示されている)全体的なスライドメトリック(またはスコア)1130に対して比較することを可能にする。画像分析モジュール210は、関連する総腫瘍エリアに対する陽性免疫細胞エリアの累積比率であり、割合として表現される全体的な定量スコアを生成する。この計算は、アッセイについて実施するのと同じプロセスである。さらに、画像分析モジュール210はまた、陽性免疫細胞の総カウントおよび総腫瘍エリアを含む2つの他のメトリックを示す。免疫細胞カウントは、リンパ球ならびに他の関連する免疫細胞メトリック(すなわち、マクロファージ)の平均サイズに基づいてエリア概念に変換される。
[0058]図15のスクリーンショット1500に関して、ユーザが、図11のアノテーションオーバレイ1120をより高い倍率で閲覧するとき、個々のドット1555が、個々の分類された細胞をマークし、低い倍率においてスライド全域パターンを理解する能力と、また、極めて粒度の細かい比較のために高い倍率で個々の細胞結果を理解するための能力とをユーザに与える。
[0059]図16のスクリーンショット1600にさらに示されているように、個々のドット1555を含むアノテーションオーバレイ1120は、オンおよびオフにトグルされ得、ユーザが、低い倍率レベルおよび高い倍率レベルにおいて、画像分析がないデジタル画像レンダリング1200を、本発明の画像分析を含んでいるデジタル画像レンダリング1100と比較することを可能にする。これは、画像分析モジュール210が、どのように高い倍率レベルにおいて細胞を、ならびに低い倍率レベルにおいて染色の全体的なパターンを分類するかをユーザが理解することを可能にする。
[0060]ステップ340において、上記のユーザ比較検討に続いて、ユーザは、ステップ335において、ワークフローモジュール200によって生成された結果を受け入れるべきかどうか、またはこれらの結果を手動で修正するのかオーバーライドするのかを決定する。
[0061]オーバーライドまたは修正が選定され、実際にユーザによって実施された場合、ワークフロー300は、ステップ325に進み、ユーザが最終のデジタルレンダリングに十分に満足するまでユーザ入力を反復し続ける。最終のデジタルレンダリングが、次いで、意図された目的のための専門プラクティショナー(professional practitioner)によって使用され得る。ユーザは、次いで、症例からサインアウトし、ワークフローモジュール200によって提供された選択された結果が、報告に組み込まれる。
[0062]図18は、腫瘍の例示的なサンプル中のバイオマーカー発現を視覚化する、H&Eスクリーンショット画像(A)1800(A)とPD−L1スクリーンショット画像(B)1800(B)との並列の例示的な比較図であり、画像(B)がPD−L1膀胱上のオーバーレイを示し、陽性エリアが色付きドットによって表現される。
[0063]図19および図20は、それぞれ、2倍倍率レベルにおける例示的な色付きオーバーレイの例示的なスクリーンショット1900(図19)、および10倍倍率レベルにおける例示的な色付きオーバーレイの例示的なスクリーンショット2000(図20)である。
[0064]ここで図4を考慮すると、図4は、図4Aおよび図4Bから構成され、本発明の代替実施形態による、図1および図2のワークフローモジュール200上でホストされるワークフロー400を表現する。ステップ305と同様に、ワークフロー400は、ステップ405において、組織サンプルを染色することを含む、適切なアッセイガイドラインに従って(1つまたは複数の)デジタル病理学スライドを準備することによって開始する。
[0065]ステップ410において、ステップ310と同様に、スキャナ111は、ユーザが症例を分析することを開始する前に、サンプル組織の(1つまたは複数の)スライド全域画像500(図5)を収集する。スキャンされたデジタル画像500は、様々な倍率レベルにおいてユーザによって閲覧および評価され得る。このデジタル画像500は、データベース150上で記憶およびアクセスされ得る。バッチ制御もスキャンされ、検討のために利用可能である。
[0066]ステップ415において、ユーザは、デジタル病理学システム100にログインし、記憶された制御画像を検討する。さらに、ステップ420において、ユーザは、ワークフローモジュール200によって提供される画像分析の恩恵なしに、染色されたスライドのデジタル画像500を検討する。
[0067]ステップ425において、ユーザは、スライド全域デジタル画像500中で、関連するエリアを関連しないエリアから分離する。この目的で、ユーザは、たとえば、関連するエリアをアウトラインすることによって、関連する関心エリアを手動で選択するためにデジタル病理学システム100を使用する。各関連するエリアは、異なる倍率レベルにおいて選択的に閲覧され得る。
[0068]ユーザが、組織サンプル中の関連する関心エリアを定義および選択することについて、矩形などの特定の幾何学的形状によってもはや制限されないことが十分に明らかであるべきである。むしろ、本デジタル病理学システムは、図10に関して前に説明されたように、関連する関心エリア1020の周りの境界1010を手動で描画することによってなど、これらの関連するエリアをアウトラインすることによって、ユーザが、組織サンプル中の大きい関連するエリアのフリーハンド選択を実施することを可能にする。
[0069]他の手動選択方法が使用され得ることも理解されたい。一例として、ユーザは、スコアリングを必要とする関心エリアを指定するために、スライド全域デジタル画像にアノテーションを付けることを可能にされる。代替的に、関連するエリアの選択プロセスが、デジタル病理学システム100によって自動的に実施され得る。たとえば、デジタル病理学システム100は、(たとえば、腫瘍エリアを検出するように訓練されたニューラルネットワークを使用してなど、任意の知られている機械学習技法または深層学習技法に基づいて)腫瘍を含んでいるスライド全域デジタル画像内の1つまたは複数のエリアを自動的に検出し、そのような(1つまたは複数の)エリアを、関連するエリアとして指定し得る。
[0070]関連するエリアの選択がステップ420において完了されると、ワークフロー400はステップ430に進んで、選択された関連するエリア1010の画像分析アルゴリズムを始動するために、ユーザがワークフローモジュール200の画像分析モジュール210を呼び出すことを可能にする。画像分析モジュール210は、0から100にわたる、陽性百分率免疫細胞スコアの形態の細胞検出および分類に基づく臨床スコアを提供する。スコアリング結果は、細胞タイプ、ロケーション、密度、形成など、大量の生物学的情報を表現する。
[0071]図4Bのステップ435において、視覚化モジュール220が、ユーザの命令に応答し、画像分析結果のコンピュータ生成されたオーバーレイ1120(図11)を準備し、密度の表現として、最初に選択されたスライド全域画像の上へのスコアリング結果のユーザフレンドリな視覚レンダリング1100をユーザに提供する。オーバーレイは、ステップ335に関して前に説明されたように、ヒートマップ、ロケーションマップ、相関マップなど、1つまたは複数のマップを表現することができ、適用例に応じて情報の変形態を示すことができる。
[0072]ステップ440において、ユーザは、得られたスコアを検証し、必要に応じて、視覚レンダリング1100にアノテーションを付ける。
[0073]ステップ445において、ユーザは、ユーザが、ひだ、間質分離アーテファクト、スペックルなど、不要な画像アーテファクトを選択することを可能にするアーテファクト抽出モジュール230(図2)を呼び出す。この目的で、ユーザは、不要なアーテファクト(またはアーテファクトエリア)を手動でアウトラインすることによって、またはこれらの不要なアーテファクトを検出し視覚化する自動化された方法を実施することによって、選択を実施し得る。アーテファクト抽出モジュール230は、次いで、画像分析モジュール210および視覚化モジュール220による、得られた画像分析および視覚化から、不要なアーテファクトを除外する。
[0074]ステップ450において、ユーザは、炭粉色素、壊死、血管内の好中球など、不要な組織および染色内容物の除去を可能にする組織内容物抽出モジュール240(図2)を呼び出す。この目的で、ユーザは、不要な内容物エリアを手動でアウトラインすることによって、またはこれらの不要な内容物エリアを検出し視覚化する自動化された方法を実施することによって、選択を実施し得る。組織内容物抽出モジュール240は、次いで、画像分析モジュール210および視覚化モジュール220による、得られた画像分析および視覚化から、不要なアーテファクトを除外する。
[0075]決定ステップ455において、ユーザは、ワークフローモジュール200によって生成されたスコアリング結果を受け入れるべきか否かを決定する。スコアリング結果が受け入れられた場合、ワークフローモジュール200は、ステップ460においてデジタルレンダリングを確定する。ユーザは、次いで、症例からサインアウトし、ワークフローモジュール200によって提供された選択された結果が、報告に組み込まれる。
[0076]しかしながら、ユーザが、ステップ455において、スコアリング結果のオーバーライドまたは修正を選択した場合、ワークフロー400は、ステップ465に進み、修正されたスコアを入力する。ワークフローモジュール200は、ユーザが最終のデジタルレンダリングに十分に満足するまで、ユーザ入力を反復し続ける。次いで、最終のデジタルレンダリングが確定され、ワークフローモジュール200によって提供された最終結果が、ステップ460において報告に組み込まれる。ユーザは、次いで、症例からサインアウトし、報告は、意図された目的のための専門プラクティショナーに利用可能にされることになる。
[0077]本発明は、1つのタイプの細胞の検出および視覚化に限定されず、本発明は、むしろ、様々なタイプの細胞を含んでいる腫瘍エリア全体を分析することができることが明らかであるべきである。各タイプの細胞は、異なる色を用いて視覚化され得る。
[0078]次に、図21〜図26に関して、本発明のスライド全域ヒートマップ視覚化プロセスが、より詳細に説明される。概して、スライド全域ヒートマップオーバーレイは、バイオマーカー発現のより大きい密度またはクラスタが発生するエリアを示すために、デジタル病理学画像を視覚化する方法である。ヒートマップ視覚化プロセスは、低画像倍率(たとえば、4倍)におけるズームファクタとは無関係にバイオマーカー発現の密度を視覚的に知覚する能力をユーザに提供する。スライド全域ヒートマップは、スライド全域画像からの細胞検出結果の密度を示すために、低倍率において生成される。色勾配が、次第に高くなる密度のエリアを示すために使用され、各細胞が密度値を割り当てられ、レイヤ全体が勾配を使用して視覚化される。個別の点の補間が、密度面と呼ばれる連続面を作成する。閲覧者によってデータがどのように解釈されるかに影響を及ぼす最終的な視覚化は主観的である。
[0079]図21〜図24は、臨床的に関連する形態(またはユーザにとっての関心エリア)2111を含む、デジタル病理学画像2100(図21)の例を示す。図21は、低倍率レベルにおける臨床的に関連する形態2111を示し、図22は、この臨床的に関連する形態2111の極めて拡大された図を示す。臨床的に関連する形態2111は、概して正方形の形状を有するものとして示されているが、ユーザが、規則的な輪郭または不規則な輪郭のいずれかを使用して関心形態を選択し得ることを理解されたい。
[0080]ワークフローモジュール200の画像分析モジュール210上に組み込まれた画像分析アルゴリズムが、図22の臨床的に関連する形態2111上で実施されて、緑色ドット2323として図23に示されている細胞検出結果(またはマップ)2300を提供する。スライド全域画像についての細胞検出結果を取得した後、細胞検出結果は、バイオマーカー発現の密度に対応するスライド全域ヒートマップ(またはヒートマップオーバーレイ)2400(図24)を生成するために使用される。図24は、オリジナルのスライド全域画像2100(図21)上のスライド全域ヒートマップオーバーレイ2400を示す。色勾配は、次第に高くなる密度のエリアを示すために使用される。
[0081]バイオマーカー発現の密度を視覚化するヒートマップ概念に加えて、本発明は、スライド全域2100内の複数の細胞タイプの検出および特定を可能にする視覚化プロセスについて説明する。組織中のバイオマーカー発現の量の指示を提供するために色を使用するのではなく、ここで、色は、腫瘍または免疫細胞などの細胞タイプと、それらが、あるバイオマーカーについて表すか否か、すなわち陽性か陰性かとを表現するために使用される。
[0082]図25、図26は、本発明の画像分析アルゴリズムによって検出されたようにPD−L1陽性免疫細胞ならびにPD−L1陽性/陰性腫瘍細胞が視覚化された、膀胱および肺の癌組織についての例を視覚化する。この場合、各細胞タイプが、異なる色を割り当てられ、各細胞タイプの密度が、色強度勾配を使用することによって視覚化され、色強度勾配は、それぞれの細胞タイプの中心ロケーションからより遠くに離れたロケーションに、より低い色強度値を滑らかに割り当てる。したがって、高密度エリアは、連続的に強い色領域によって表現されることになり、混合細胞タイプのエリアは、周囲エリア中のすべての異なる細胞タイプの寄与から生じる新しい色によって表現されることになる。
[0083]図25は、PD−L1膀胱スライド2500上で検出された陽性免疫細胞2550の一例を示す。これらの陽性免疫細胞2550は、緑色エリアによって表現される。図26は、PD−L1陽性免疫細胞2650(緑色エリア)、PD−L1陽性腫瘍細胞2655(赤色エリア)、およびPD−L1陰性免疫細胞2660(青色エリア)の一例を示す。ある細胞タイプのより高い密度のエリアは、群がっているように見え、混合エリアは、混合色のように見える。
[0084]本明細書で説明されるフローチャートの各々において、方法のうちの1つまたは複数は、コンピュータ可読コードがコンピューティングデバイス上で実行されるとき、一連のステップが実施されるように、コンピュータ可読コードを含んでいるコンピュータ可読媒体において具現化され得る。いくつかの実装形態では、本発明の趣旨および範囲から逸脱することなく、方法のいくつかのステップが、組み合わせられるか、同時にまたは異なる順序で実施されるか、あるいは場合によっては省略される。したがって、方法ステップが特定のシーケンスにおいて説明および例示されるが、ステップの特定のシーケンスの使用は、本発明に対する限定を暗示することを意味しない。本発明の趣旨または範囲から逸脱することなく、ステップのシーケンスに関して変更が行われ得る。したがって、特定のシーケンスの使用は限定的な意味にとられるべきではなく、本発明の範囲は添付の特許請求の範囲のみによって定義される。
[0085]当業者によって諒解されるように、本発明の態様は、システム、方法、またはコンピュータプログラム製品として具現化され得る。したがって、本発明の態様は、完全にハードウェアの実施形態、(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)完全にソフトウェアの実施形態、またはソフトウェアとハードウェアの態様を組み合わせる実施形態の形態をとり得、それらはすべて、本明細書では概して「回路」、「モジュール」、または「システム」と呼ばれることがある。さらに、本発明の態様は、その上にコンピュータ可読プログラムコードが具現化された1つまたは複数のコンピュータ可読媒体内で具現化されるコンピュータプログラム製品の形態をとり得る。
[0086]さらに諒解されるように、本発明の実施形態におけるプロセスは、ソフトウェア、ファームウェアまたはハードウェアの任意の組合せを使用して実装され得る。本発明をソフトウェアで実施することへの予備ステップとして、プログラミングコード(ソフトウェアかファームウェアかを問わず)は、一般に、1つまたは複数のコンピュータ可読記憶媒体、たとえば、限定はしないが、電子、磁気、光、電磁、赤外線、または半導体の、システム、装置、またはデバイス、あるいは上記の任意の好適な組合せに記憶される。コンピュータ可読記憶媒体のより具体的な例(非網羅的なリスト)は、以下、すなわち、1つまたは複数のワイヤを有する電気接続、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、消去可能プログラマブル読取り専用メモリ(EPROMまたはフラッシュメモリ)、ポータブルコンパクトディスク読取り専用メモリ(CD−ROM)、光記憶デバイス、磁気記憶デバイス、または上記の任意の好適な組合せを含む。本明細書のコンテキストでは、コンピュータ可読記憶媒体は、命令実行システム、装置、またはデバイスによってあるいはそれらに関連して使用するためのプログラムを含んでいるかまたは記憶することができる、任意の有形媒体であり得る。
[0087]プログラミングコードを含んでいる製造品は、記憶デバイスから直接コードを実行することによって、記憶デバイスからハードディスク、RAMなどの別の記憶デバイスにコードをコピーすることによって、またはデジタルおよびアナログ通信リンクなどの送信タイプメディアを使用してリモート実行のためのコードを送信することによってのいずれかで使用される。本発明の方法は、本発明によるコードを含んでいる1つまたは複数の機械可読記憶デバイスを、その中に含まれているコードを実行するための適切な処理ハードウェアと組み合わせることによって実施され得る。本発明を実施するための装置は、本発明に従ってコーディングされた(1つまたは複数の)プログラムを含んでいるかまたはそれへのネットワークアクセスを有する、1つまたは複数の処理デバイスおよび記憶システムであり得る。
[0088]コンピュータ可読信号媒体は、その中で、たとえばベースバンド内または搬送波の一部として、コンピュータ可読プログラムコードを具現化された伝搬されるデータ信号を含み得る。そのような伝搬される信号は、限定はしないが、電磁、光、またはそれらの任意の好適な組合せを含む、様々な形態のうちのいずれかをとり得る。コンピュータ可読信号媒体は、コンピュータ可読記憶媒体ではなく、命令実行システム、装置、またはデバイスによってあるいはそれらに関連して使用するためのプログラムを通信し、伝搬させ、または搬送することができる任意のコンピュータ可読媒体であり得る。
[0089]コンピュータ可読媒体上で具現化されるプログラムコードは、限定はしないが、ワイヤレス、ワイヤライン、光ファイバーケーブル、R.Fなど、または上記の任意の好適な組合せを含む、任意の適切な媒体を使用して送信され得る。本発明の態様のための動作を実行するためのコンピュータプログラムコードは、Java(登録商標)、Smalltalk、C++などのオブジェクト指向プログラミング言語、「C」プログラミング言語または同様のプログラミング言語などの従来の手続き型プログラミング言語を含む、1つまたは複数のプログラミング言語の任意の組合せで書かれ得る。プログラムコードは、完全にユーザのコンピュータ上で実行するか、部分的にユーザのコンピュータ上で実行するか、スタンドアロンソフトウェアパッケージとして実行するか、部分的にユーザのコンピュータ上と部分的にリモートコンピュータ上とで実行するか、あるいは完全にリモートコンピュータまたはサーバ上で実行し得る。後者のシナリオでは、リモートコンピュータは、ローカルエリアネットワーク(LAN)またはワイドエリアネットワーク(WAN)を含む、任意のタイプのネットワークを通してユーザのコンピュータに接続され得、あるいは接続は、(たとえば、インターネットサービスプロバイダを使用してインターネットを通して)外部コンピュータに対して行われ得る。
[0090]したがって、本発明の例示的な実施形態は、インストールされた(または実行される)ソフトウェアをもつ十分に機能的なコンピュータ(サーバ)システムのコンテキストにおいて説明されるが、本発明の例示的な実施形態のソフトウェア態様は、様々な形態のプログラム製品として配布されることが可能であることと、本発明の例示的な実施形態は、実際に配布を行うために使用されるメディアの特定のタイプにかかわらず等しく適用されることとを、当業者が理解するであろうことは重要である。
[0091]さらに、本発明は、例示的な実施形態を参照しながら説明されたが、本発明の範囲から逸脱することなく、様々な変更が行われ得、均等物がそれらの要素と置換され得ることが、当業者によって理解されよう。さらに、本発明の本質的範囲から逸脱することなく、本発明の教示に、特定のシステム、デバイスまたはそれらの構成要素を適応させるために多くの変更が行われ得る。したがって、本発明は、本発明を行うために開示される特定の実施形態に限定されないが、本発明は、添付の特許請求の範囲内に入るすべての実施形態を含むことが意図される。
[0092]本明細書で使用される単数形「a」、「an」および「the」は、文脈が別段に明確に示すのでなければ、複数形をも含むことが意図される。さらに、本明細書で使用される「備える、含む(comprises)」および/または「備える、含む(comprising)」という用語は、述べられた特徴、整数、ステップ、動作、要素、および/または構成要素の存在を明示するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、および/またはそれらのグループの存在または追加を排除しないことを理解されよう。その上、第1の、第2の、などという用語の使用は、いかなる順序または重要性をも示さず、むしろ、第1の、第2の、などという用語は、ある要素を別のものと区別するために使用される。さらに、「a」、「b」、「c」、「第1の」、「第2の」、および「第3の」などのリスト用語は、説明の目的で本明細書および添付の特許請求の範囲で使用され、相対的重要性または有意性を示すかまたは暗示することが意図されない。
[0093]以下の特許請求の範囲における、対応する構造、材料、行為、およびすべての手段またはステップ+機能要素の均等物は、詳細に請求されたように、他の請求された要素と組み合わせて機能を実施するための任意の構造、材料、または行為を含むことが意図される。本発明の説明は、例示および説明の目的で提示されており、網羅的であることまたは開示される形態における本発明に限定されることが意図されない。多くの変更および変形が、本発明の範囲および趣旨から逸脱することなく当業者に明らかであろう。本発明の原理および実際的適用例について最も良く説明し、他の当業者が、企図された特定の用途に好適であるような様々な変更を用いて、様々な実施形態について本発明を理解することを可能にするための、実施形態が選定され、説明された。

Claims (22)

  1. 組織スライド全体と、前記組織スライド全体内に含まれている臨床的に関連する形態上のバイオマーカー発現(expressions)との定量分析を提供するためのデジタル病理学システム(100)であって、前記システムは、
    前記組織スライド全体に亘ってバイオマーカー発現を特定するために、組織スライド全体を表す画像の第1の画像分析を実施する画像分析モジュール(210)と、
    前記画像、及び、組織スライド全体に亘って特定されたバイオマーカー発現を示す第1の視覚オーバーレイを含む出力を生成する視覚化モジュール(220)と
    を備え、
    前記組織スライド全体の中の前記臨床的に関連する形態に対応する前記画像の部分のユーザ選択の受け付けに応答して、
    前記画像分析モジュールが、前記画像の前記部分の中の個々の細胞のバイオマーカー発現レベルを得るために、前記画像の前記部分に対してのみ第2の画像分析を実施し、
    前記視覚化モジュールが、前記画像の前記部分の細胞であって、当該細胞のバイオマーカー発現レベルが得られた細胞を含む第2の視覚オーバーレイを生成する、
    デジタル病理学システム(100)。
  2. 前記画像の前記部分に対する定量化可能なスコアのセットを生成することを更に含み、
    前記定量化可能なスコアの前記セットが、前記細胞であって、当該細胞のバイオマーカー発現レベルが得られた細胞によって表される領域と、臨床的に関連する形態に対応する、全体の画像領域の間の比を示す、
    請求項1に記載のデジタル病理学システム。
  3. 前記臨床的に関連する形態が、少なくとも1つの腫瘍エリアを含む、請求項1または2に記載のデジタル病理学システム(100)。
  4. 前記臨床的に関連する形態が、複数の異なる固形腫瘍エリアを含む、請求項1または2に記載のデジタル病理学システム(100)。
  5. 前記第2の視覚オーバーレイがオーバーレイマップを表現する、請求項1から4のいずれかに記載のデジタル病理学システム(100)。
  6. 前記オーバーレイマップが、ヒートマップ、ロケーションマップ、および相関マップのうちの少なくとも1つを含む、請求項5に記載のデジタル病理学システム(100)。
  7. 前記視覚化モジュール(220)が、ユーザ入力を受け付けることに応じて前記視覚オーバーレイを修正する、請求項1から6のいずれかに記載のデジタル病理学システム(100)。
  8. スキャナ(111)をさらに備え、
    前記スキャナ(111)が、前記組織スライド全体を表す前記画像を生成するために前記組織スライド全体をスキャンし、
    前記画像分析モジュール(210)が、前記スキャンされた画像の前記生成の後の、所定の時間内に、前記第1の画像分析を実施することによって、前記バイオマーカー発現が、前記画像の部分の前記ユーザ選択の前に特定される、
    請求項1から7のいずれかに記載のデジタル病理学システム(100)。
  9. 前記第1の画像分析を実施することが、前記組織スライド全体の前記スキャンされた画像内の複数の細胞のロケーションおよびタイプを決定することを含む、請求項8に記載のデジタル病理学システム(100)。
  10. 前記デジタル病理学システム(100)がデータベース(150)をさらに備え、前記画像分析モジュール(210)が、前記複数の細胞の前記決定されたロケーションおよびタイプを、前記画像の前記部分の前記ユーザ選択の後にアクセスされるように前記データベース(150)に記憶する、請求項9に記載のデジタル病理学システム(100)。
  11. 前記第1のオーバーレイ画像が、前記複数の細胞の前記決定されたロケーションおよびタイプを含む、
    請求項9に記載のデジタル病理学システム(100)。
  12. 前記画像他の部分の他の選択を受け付けるアーテファクト抽出モジュールをさらに備え、
    前記画像の前記他の部分が、前記第2の画像分析からの除外のための、不要な画像アーテファクトに対応し、前記不要な画像アーテファクトが、ひだ(fold)、間質分離(stroma separation)アーテファクト、又は、スペックル(speckling)のうちの少なくとも1つを含む、請求項1から11のいずれかに記載のデジタル病理学システム(100)。
  13. 前記第2の画像分析からの除外のための、不要な組織および染色内容物に対応する、前記画像の他の部分の他の選択を受け付ける、組織内容物抽出モジュール(240)をさらに備える、請求項11に記載のデジタル病理学システム(100)。
  14. 前記不要な組織および染色内容物が、少なくとも炭粉色素(anthracotic pigment)、壊死(necrosis)、又は、血管内の好中球(neutrophils)を含む、請求項13に記載のデジタル病理学システム(100)。
  15. 組織スライド全体と、前記組織スライド全体内に含まれている臨床的に関連する形態上のバイオマーカー発現との定量分析を提供するためのデジタル病理学方法であって、前記方法は、
    前記組織スライド全体に亘るバイオマーカー発現を特定するために、組織スライド全体を表す画像の第1の画像分析を実施するステップと、
    前記画像、及び、前記組織スライド全体に亘る、前記特定されたバイオマーカー発現を示す、第1の視覚オーバーレイを含む出力を生成するステップと、
    前記組織スライド全体の中の臨床的に関連する形態に対応する、前記画像の部分のユーザ選択を受け付けるステップと、
    前記画像の前記部分の前記ユーザ選択に応じて、前記画像の前記部分の中の個々の細胞のバイオマーカー発現レベルを得るために、前記画像の前記部分の第2の画像分析を実施するステップであって、前記第2の画像分析が、前記画像の前記部分限定される、実施するステップと、
    前記画像の前記部分の細胞であって、当該細胞のバイオマーカー発現レベルが得られた細胞を含む第2の視覚オーバーレイを生成するステップと、
    を含む、デジタル病理学方法。
  16. 定量化可能なスコアのセットが、前記細胞であって、当該細胞のバイオマーカー発現レベルが得られた細胞によって表される領域と、前記臨床的に関連する形態に対応する合計画像領域の間の比を示す、請求項15に記載のデジタル病理学方法。
  17. 前記臨床的に関連する形態が、少なくとも1つの腫瘍エリアを含む、請求項15または16に記載のデジタル病理学方法。
  18. 前記画像の前記部分が、腫瘍エリアを検出するように訓練されたニューラルネットワークによって前記組織スライド全体を処理することによって自動的に選択される、請求項15から17のいずれかに記載のデジタル病理学方法。
  19. 前記第2の視覚オーバーレイがオーバーレイマップを表現する、請求項15から18のいずれかに記載のデジタル病理学方法。
  20. 前記オーバーレイマップが、ヒートマップ、ロケーションマップ、または相関マップのうちのいずれか1つを含む、請求項19に記載のデジタル病理学方法。
  21. 前記第2の視覚オーバーレイ上へのユーザ入力を受け付けるステップと、
    前記ユーザ入力によって特定された前記第2の視覚オーバーレイを修正するステップと、
    をさらに含む、請求項15から20のいずれかに記載のデジタル病理学方法。
  22. 組織スライド全体と、前記組織スライド全体内に含まれている臨床的に関連する形態上のバイオマーカー発現との定量分析を提供するためのプロセッサ可読媒体上にあるコンピュータプログラム製品であって、前記コンピュータプログラム製品が、プロセッサ実行可能命令コードを含み、
    組織スライド全体に亘るバイオマーカー発現を特定するための、前記組織スライド全体を表す画像の第1の画像分析を実施するための命令コードの第1のセットと、
    前記画像、及び、前記組織スライド全体に亘る前記特定されたバイオマーカー発現を示す第1の視覚オーバーレイ、を含む出力を生成するための命令コードの第2のセットと、
    前記組織スライド全体の中の臨床的に関連する形態に対応する、前記画像の部分のユーザ選択を受け取るための命令コードの第3のセットと、
    前記画像の前記部分の前記ユーザ選択に応じて、前記画像の前記部分の中の個々の細胞のバイオマーカー発現レベルを得るために、前記画像の部分に対してのみ第2の画像分析を実施するための命令コードの第4のセットと、
    前記画像の前記部分の細胞であって、当該細胞のバイオマーカー発現レベルが得られた細胞を含む第2の視覚オーバーレイを生成するための命令コードの第5のセットと、
    を備える、
    コンピュータプログラム製品。
JP2019513771A 2016-10-07 2017-10-04 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー Active JP6799146B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201662405808P 2016-10-07 2016-10-07
US62/405,808 2016-10-07
PCT/EP2017/075113 WO2018065434A1 (en) 2016-10-07 2017-10-04 Digital pathology system and associated workflow for providing visualized whole-slide image analysis

Publications (2)

Publication Number Publication Date
JP2019533805A JP2019533805A (ja) 2019-11-21
JP6799146B2 true JP6799146B2 (ja) 2020-12-09

Family

ID=60320819

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019513771A Active JP6799146B2 (ja) 2016-10-07 2017-10-04 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー

Country Status (5)

Country Link
US (1) US11010892B2 (ja)
EP (1) EP3523779B1 (ja)
JP (1) JP6799146B2 (ja)
CN (1) CN109791693B (ja)
WO (1) WO2018065434A1 (ja)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11348239B2 (en) 2018-05-14 2022-05-31 Tempus Labs, Inc. Predicting total nucleic acid yield and dissection boundaries for histology slides
US11741365B2 (en) 2018-05-14 2023-08-29 Tempus Labs, Inc. Generalizable and interpretable deep learning framework for predicting MSI from histopathology slide images
US10957041B2 (en) 2018-05-14 2021-03-23 Tempus Labs, Inc. Determining biomarkers from histopathology slide images
US11348661B2 (en) 2018-05-14 2022-05-31 Tempus Labs, Inc. Predicting total nucleic acid yield and dissection boundaries for histology slides
US11348240B2 (en) 2018-05-14 2022-05-31 Tempus Labs, Inc. Predicting total nucleic acid yield and dissection boundaries for histology slides
WO2020142566A1 (en) * 2018-12-31 2020-07-09 Tempus Labs, Inc. Artificial intelligence segmentation of tissue images
EP3696820A1 (en) 2019-02-18 2020-08-19 Koninklijke Philips N.V. Integrated macro image preview
CN109872335A (zh) * 2019-02-28 2019-06-11 志诺维思(北京)基因科技有限公司 一种用于pd-l1抗体染色切片的自动读片方法及其系统
ES3047360T3 (en) * 2019-03-26 2025-12-03 Tempus Ai Inc Determining biomarkers from histopathology slide images
JP7592599B2 (ja) * 2019-05-29 2024-12-02 ライカ バイオシステムズ イメージング インコーポレイテッド 組織学的画像および術後腫瘍辺縁評価における腫瘍のコンピュータ支援レビュー
KR102488986B1 (ko) * 2019-05-31 2023-01-18 페이지.에이아이, 인크. 디지털 병리학을 위한 슬라이드들의 처리된 이미지들을 자동으로 우선순위화하기 위해 슬라이드들의 이미지들을 처리하기 위한 시스템들 및 방법들
CN114341952A (zh) * 2019-09-09 2022-04-12 佩治人工智能公司 用于处理玻片的图像以推断生物标志物的系统和方法
WO2021050421A1 (en) * 2019-09-09 2021-03-18 Paige.Al, Inc. Systems and methods for processing images of slides for digital pathology
CN114902342A (zh) * 2019-10-18 2022-08-12 纳米线科技公司 用于表达谱分析的空间映射的系统和方法
US20220392060A1 (en) * 2019-11-08 2022-12-08 George Themelis System, Microscope System, Methods and Computer Programs for Training or Using a Machine-Learning Model
WO2021118881A1 (en) * 2019-12-10 2021-06-17 Siemens Healthcare Diagnostics Inc. Method and system for generating a chromatically modified image of components in a microscopic slide
CN115210817B (zh) * 2020-01-06 2025-03-07 佩治人工智能公司 用于分析电子图像以进行质量控制的系统和方法
ES3064614T3 (en) 2020-01-28 2026-04-27 Paige Ai Inc Systems and methods for processing electronic images for biomarker localization
JP7228210B2 (ja) * 2020-01-28 2023-02-24 ペイジ.エーアイ インコーポレイテッド デジタルバイオマーカおよびゲノムパネルの伝達のためのシステムおよび方法
JP2021124861A (ja) * 2020-02-04 2021-08-30 ソニーグループ株式会社 解析装置、解析方法、解析プログラム及び診断支援システム
CN111353435A (zh) * 2020-02-28 2020-06-30 杭州依图医疗技术有限公司 细胞图像的显示方法、病理图像分析系统及存储介质
CN111290685A (zh) * 2020-02-28 2020-06-16 杭州依图医疗技术有限公司 细胞染色图像的显示方法、病理图像分析系统及存储介质
US11315249B2 (en) 2020-06-19 2022-04-26 PAIGE.AI, Inc. Systems and methods to process electronic images to produce a tissue map visualization
DE102020212189A1 (de) * 2020-09-28 2022-03-31 Siemens Healthcare Gmbh Verfahren und Vorrichtung zur Analyse von Histopathologiedatensätzen
CN112233811A (zh) * 2020-10-19 2021-01-15 江苏珂玛麒生物科技有限公司 一种nash肝脏数字病理分析系统、工作方法、应用
CN112529907B (zh) * 2020-10-19 2024-06-14 江苏珂玛麒生物科技有限公司 基于sr染色的大鼠肺部纤维分析系统及其工作方法
CN115708127B (zh) * 2021-08-18 2026-02-27 佳能医疗系统株式会社 组织病理学染色切片图像的模型训练装置和模型应用装置
JP2024545326A (ja) 2021-12-24 2024-12-05 ルニット・インコーポレイテッド 病理スライド画像を出力する方法及び装置
WO2023128059A1 (en) * 2021-12-28 2023-07-06 Lunit Inc. Method and apparatus for tumor purity based on pathological slide image
US12475564B2 (en) 2022-02-16 2025-11-18 Proscia Inc. Digital pathology artificial intelligence quality check
KR102854405B1 (ko) * 2022-07-20 2025-09-02 가톨릭대학교 산학협력단 병리 이미지 기반 핵산 양 예측 및 최적의 유전자 검사 제안 장치 및 방법
KR102817551B1 (ko) * 2022-07-28 2025-06-05 가톨릭대학교 산학협력단 다중 정보 분석 기반 최적의 바이오 마커 분석법 제안 장치 및 방법
JP2024117376A (ja) * 2023-02-17 2024-08-29 株式会社Screenホールディングス 画像生成方法
US12277706B2 (en) 2023-03-25 2025-04-15 Pramana, Inc. System and method for visualization of digitized slides
WO2024215577A1 (en) * 2023-04-13 2024-10-17 Rs Oncology, Llc Methods of modulating the epithelial-mesenchymal transition
WO2025038339A1 (en) 2023-08-16 2025-02-20 Ventana Medical Systems, Inc. Deep learning model to determine a fixation status of a morphologically stained biological specimen
CN117373695B (zh) * 2023-10-12 2024-05-17 北京透彻未来科技有限公司 基于极深卷积神经网络的泛癌病理诊断系统
WO2025166108A1 (en) 2024-02-01 2025-08-07 Ventana Medical Systems, Inc. Methods of generating digitally stained images from unstained biological samples

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8711149B2 (en) * 2010-12-08 2014-04-29 Definiens Ag Graphical user interface for interpreting the results of image analysis
US8774518B2 (en) 2011-08-02 2014-07-08 Nec Laboratories America, Inc. Digital pathology system with low-latency analytics
WO2013106765A1 (en) 2012-01-13 2013-07-18 Genentech, Inc. Biological markers for identifying patients for treatment with vegf antagonists
ES2779626T3 (es) * 2012-02-01 2020-08-18 Ventana Med Syst Inc Sistema para detectar genes en muestras de tejido
JP2013174823A (ja) * 2012-02-27 2013-09-05 Olympus Corp 画像処理装置、顕微鏡システム、及び画像処理方法
US8984308B2 (en) * 2012-12-03 2015-03-17 Qualcomm Incorporated System and method of adaptive voltage scaling
JP6313325B2 (ja) * 2012-12-06 2018-04-18 ジーイー・ヘルスケア・バイオサイエンス・コーポレイション バイオマーカー発現の選択及び表示
US9488639B2 (en) 2013-02-25 2016-11-08 Flagship Biosciences, Inc. Cell-based tissue analysis
WO2014140070A2 (en) * 2013-03-14 2014-09-18 Ventana Medical Systems, Inc. Whole slide image registration and cross-image annotation devices, systems and methods
CN104316529A (zh) * 2014-11-18 2015-01-28 宁波江丰生物信息技术有限公司 一种全自动的用于数字病理图像扫描的实时画质评价方法
WO2016087592A1 (en) * 2014-12-03 2016-06-09 Ventana Medical Systems, Inc. Systems and methods for early-stage cancer prognosis
CN107111874B (zh) * 2014-12-30 2022-04-08 文塔纳医疗系统公司 用于共表达分析的系统和方法
WO2016120418A1 (en) * 2015-01-31 2016-08-04 Ventana Medical Systems, Inc. Quality control of automated whole-slide analysis
US20180253590A1 (en) * 2015-03-20 2018-09-06 Inspirata, Inc. Systems, methods, and apparatuses for digital histopathological imaging for prescreened detection of cancer and other abnormalities

Also Published As

Publication number Publication date
US11010892B2 (en) 2021-05-18
JP2019533805A (ja) 2019-11-21
CN109791693A (zh) 2019-05-21
WO2018065434A1 (en) 2018-04-12
EP3523779B1 (en) 2026-04-29
US20190236780A1 (en) 2019-08-01
CN109791693B (zh) 2023-09-26
EP3523779A1 (en) 2019-08-14

Similar Documents

Publication Publication Date Title
JP6799146B2 (ja) 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー
JP6763781B2 (ja) 複数の染色で染色されている生物組織サンプルから取得されるマルチチャネル画像を分析するための画像処理方法及びシステム
KR20220015368A (ko) 조직학적 이미지 내의 종양 및 수술 후 종양 마진 평가에 대한 컴퓨터 지원 검토
US9036888B2 (en) Systems and methods for performing quality review scoring of biomarkers and image analysis methods for biological tissue
US20140314292A1 (en) Method and system for integrated radiological and pathological information for diagnosis, therapy selection, and monitoring
EP2845137B1 (en) Systems and methods for performing quality review scoring of biomarkers and image analysis methods for biological tissue
WO2022150554A1 (en) Quantification of conditions on biomedical images across staining modalities using a multi-task deep learning framework
JP2019148473A (ja) 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
US20130286038A1 (en) Systems and methods for selection and display of multiplexed images of biological tissue
CN112703531A (zh) 生成组织图像的注释数据
US20130290006A1 (en) Systems and methods for performing correlation analysis on clinical outcome and characteristics of biological tissue
JP2023501161A (ja) 領域レベルアノテーションのブーストラッピングを使用した画像処理ベースのオブジェクト分類
JP7781072B2 (ja) 電子画像を処理して組織マップ可視化を生成するシステム及び方法
Molin et al. Scale Stain: Multi-resolution feature enhancement in pathology visualization
JPWO2016076104A1 (ja) 画像処理方法、画像処理装置、及びプログラム
US20220277451A1 (en) Systems, methods and apparatuses for visualization of imaging data
US20130286043A1 (en) Systems and methods for analyzing biomarker co-localization in a biological tissue
Pretorius et al. Visual Parameter Optimization for Biomedical Image Analysis: A Case Study.
US20230177685A1 (en) Systems and methods for processing electronic images to visualize combinations of semantic pathology features
Ghahremani End-to-End Deep Learning Frameworks for Segmentation, Classification, and Visualization in Optical Microscopy Applications
Olchowik et al. Automatic liver detection algorithm on CT images

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201119

R150 Certificate of patent or registration of utility model

Ref document number: 6799146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250