Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7343145B2 - Information processing device, information processing method, and program - Google Patents
[go: Go Back, main page]

JP7343145B2 - Information processing device, information processing method, and program - Google Patents

Information processing device, information processing method, and program Download PDF

Info

Publication number
JP7343145B2
JP7343145B2 JP2019114984A JP2019114984A JP7343145B2 JP 7343145 B2 JP7343145 B2 JP 7343145B2 JP 2019114984 A JP2019114984 A JP 2019114984A JP 2019114984 A JP2019114984 A JP 2019114984A JP 7343145 B2 JP7343145 B2 JP 7343145B2
Authority
JP
Japan
Prior art keywords
information
latent space
measurement information
measurement
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019114984A
Other languages
Japanese (ja)
Other versions
JP2021000224A (en
Inventor
健司 山西
太一 木脇
林川 許
晶 王
宇輝 鄭
亮 朝岡
博史 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Tokyo NUC
Original Assignee
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Tokyo NUC filed Critical University of Tokyo NUC
Priority to JP2019114984A priority Critical patent/JP7343145B2/en
Publication of JP2021000224A publication Critical patent/JP2021000224A/en
Application granted granted Critical
Publication of JP7343145B2 publication Critical patent/JP7343145B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Eye Examination Apparatus (AREA)

Description

本発明は、情報処理装置、情報処理方法、及びプログラムに関する。 The present invention relates to an information processing device, an information processing method, and a program.

緑内障など、種々の治療行為において、患者の症状の進行状態を把握することは必要なことである。具体的に緑内障の治療においては患者の視野の状態を把握する必要があり、現状では、この視野の状態把握のために、光刺激による視野検査を行っている。しかし、治療のために十分な情報を得るためには、視野となり得る多数の点での患者の見え方を検査する必要があり、検査の負担が大きい。 In various treatments such as glaucoma, it is necessary to understand the progress of a patient's symptoms. Specifically, in the treatment of glaucoma, it is necessary to understand the condition of the patient's visual field, and currently, visual field testing using optical stimulation is performed to understand the condition of this visual field. However, in order to obtain sufficient information for treatment, it is necessary to examine the patient's vision at many points that can be used as visual fields, and the burden of examination is heavy.

また、緑内障の進行の状態を知るために、長期に亘って計測される視野感度の測定情報が必要となるのでは、治療に係る判断まで期日を要することとなってしまう。 Furthermore, if measurement information on visual field sensitivity measured over a long period of time is required in order to know the state of progress of glaucoma, it will take a long time to make a decision regarding treatment.

一方、近年、乳頭部網膜層厚の部分領域平均と視野感度の関係性の有無についての研究がなされている(非特許文献1)。 On the other hand, in recent years, research has been conducted on whether there is a relationship between the partial area average of papillary retinal layer thickness and visual field sensitivity (Non-Patent Document 1).

Donald C. Hood, et.al., “A Framework for comparing structural and functional measures of glaucomatous damage”, Progress in Retinal and Eye Research, 2007 Nov. 26(6), pp. 688-710Donald C. Hood, et.al., “A Framework for comparing structural and functional measures of glaucomatous damage”, Progress in Retinal and Eye Research, 2007 Nov. 26(6), pp. 688-710

上述のように、従来の検査等においては、現在の状態の測定のために検査負担が大きくなっている場合がある。一方で、非特許文献1のように新たな知見が得られることで、過去に行われた種々の検査結果を参考に、検査の負担を軽減でき、また、進行の状態の判断も迅速化できる場合もあると期待できる。 As described above, in conventional inspections, etc., the burden of inspection may become large due to the measurement of the current state. On the other hand, by obtaining new knowledge as in Non-Patent Document 1, it is possible to reduce the burden of testing by referring to the results of various tests conducted in the past, and it is also possible to speed up the determination of the state of progression. We can expect that there may be cases.

しかしながら複数の異なる種類の検査結果の間に、上記非特許文献1にあるような相関関係が示唆されたとしても、互いに相関があると考えられる、異なる種類の検査が、例えば同日など、症状の進行が同じとみなせる状態で行われていることは一般に稀なことである。このため、複数の種類の検査の間に相関関係があることが新たな知見として得られたとしても、これらの検査結果の相関関係を検証できず、結局、過去の検査結果の情報を有効に利用できていないのが現状である。 However, even if a correlation as described in Non-Patent Document 1 is suggested between the results of multiple different types of tests, different types of tests that are considered to be correlated with each other may not be performed on the same day, for example. Generally speaking, it is rare that the progress is considered to be the same. For this reason, even if new knowledge is obtained that there is a correlation between multiple types of tests, the correlation between these test results cannot be verified, and in the end, information from past test results cannot be used effectively. The current situation is that it is not available.

本発明は上記実情に鑑みて為されたもので、過去の検査結果の情報を有効に利用し、検査負荷の軽減、並びに治療等に資する判断材料を早期に提供できる情報処理装置、情報処理方法、及びプログラムを提供することを、その目的の一つとする。 The present invention has been made in view of the above-mentioned circumstances, and is an information processing device and an information processing method that can effectively utilize information on past test results, reduce the test load, and quickly provide decision materials that contribute to treatment, etc. One of its purposes is to provide , and programs.

上記従来例の問題点を解決する本発明の一態様は、情報処理装置であって、時刻情報に関連するパラメータを含むパラメータ群で規定される潜在空間の情報を保持する保持手段と、複数の互いに異なる種類の測定情報を含む測定情報群であって、前記測定情報が、それぞれ任意の時間に測定されてなる測定情報群の入力を受け入れる受入手段と、前記受け入れた測定情報群に含まれる測定情報の種類ごとに予め定められた方法で、当該種類の測定情報を用いて、前記保持手段が保持する前記潜在空間の情報を更新して設定する設定手段と、前記設定手段により更新された、前記保持手段が保持する前記潜在空間の情報を用い、所定の出力情報を生成する出力情報生成手段と、を含むこととしたものである。 One aspect of the present invention that solves the problems of the conventional example described above is an information processing device that includes a holding unit that holds information on a latent space defined by a parameter group including a parameter related to time information; an accepting means for receiving an input of a measurement information group including measurement information of different types, each of which is measured at an arbitrary time; and measurements included in the accepted measurement information group. a setting means for updating and setting the information of the latent space held by the holding means using the measurement information of the type in a predetermined manner for each type of information; and a setting means updated by the setting means. and output information generating means for generating predetermined output information using the information of the latent space held by the holding means.

本発明によると、過去の検査結果の情報を有効に利用できる。 According to the present invention, information on past test results can be effectively used.

本発明の実施の形態に係る情報処理装置の構成例を表すブロック図である。1 is a block diagram illustrating a configuration example of an information processing device according to an embodiment of the present invention. FIG. 本発明の実施の形態に係る情報処理装置の例を表す機能ブロック図である。FIG. 1 is a functional block diagram illustrating an example of an information processing device according to an embodiment of the present invention. 本発明の実施の形態に係る情報処理装置の動作を概念的に表す説明図である。FIG. 2 is an explanatory diagram conceptually representing the operation of the information processing device according to the embodiment of the present invention. 本発明の実施の形態に係る情報処理装置の動作例を表すフローチャート図である。FIG. 2 is a flowchart diagram illustrating an example of the operation of the information processing device according to the embodiment of the present invention.

本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係る情報処理装置1は、図1に例示するように、制御部11と、記憶部12と、操作部13と、表示部14と、インタフェース部15とを含んで構成される。 Embodiments of the present invention will be described with reference to the drawings. As illustrated in FIG. 1, the information processing device 1 according to the embodiment of the present invention includes a control section 11, a storage section 12, an operation section 13, a display section 14, and an interface section 15. be done.

制御部11は、CPU等のプログラム制御デバイスであり、記憶部12に格納されたプログラムに従って動作する。本実施の形態の例では、制御部11は、時刻情報に関連するパラメータを含むパラメータ群で規定される潜在空間の情報を記憶部12に格納して保持し、また、複数の互いに異なる種類の測定情報を含む測定情報群の入力を受け入れる。 The control unit 11 is a program control device such as a CPU, and operates according to a program stored in the storage unit 12. In the example of the present embodiment, the control unit 11 stores and holds information on a latent space defined by a parameter group including parameters related to time information in the storage unit 12, and also stores information on a latent space defined by a parameter group including parameters related to time information, and Accepts input of a measurement information group including measurement information.

ここで測定情報群は、それぞれ任意の時間に測定されてなる複数の種類の測定情報を含む。制御部11は、受け入れた測定情報群に含まれる測定情報を、その種類ごとに予め定められた方法で、当該種類の測定情報を用いて、記憶部12に保持している潜在空間の情報を更新して設定する。 Here, the measurement information group includes a plurality of types of measurement information each measured at an arbitrary time. The control unit 11 uses the measurement information of the type included in the received measurement information group in a predetermined method for each type of measurement information to generate information on the latent space held in the storage unit 12. Update and configure.

そして制御部11は、記憶部12が保持する、当該更新された潜在空間の情報を用い、所定の出力情報を生成する。この制御部11の詳しい動作については後に述べる。 Then, the control unit 11 generates predetermined output information using the updated latent space information held by the storage unit 12. The detailed operation of this control section 11 will be described later.

記憶部12は、メモリデバイス等であり、制御部11によって実行されるプログラムを保持する。このプログラムは、コンピュータ可読、かつ非一時的な記録媒体に格納されて提供され、この記憶部12に複写されたものであってもよい。またこの記憶部12は制御部11のワークメモリとしても動作し、保持手段としても機能する。 The storage unit 12 is a memory device or the like, and holds programs executed by the control unit 11. This program may be provided stored in a computer-readable, non-temporary recording medium, and may be copied to the storage unit 12. This storage section 12 also operates as a work memory for the control section 11 and also functions as a holding means.

操作部13は、マウスやキーボード等のデバイスであり、利用者の指示操作の内容を受け入れて制御部11に対して出力する。表示部14は、ディスプレイ等であり、制御部11から入力される指示に従い、情報を出力する。 The operation unit 13 is a device such as a mouse or a keyboard, and accepts the content of a user's instruction operation and outputs it to the control unit 11. The display unit 14 is a display or the like, and outputs information according to instructions input from the control unit 11.

インタフェース部15は、USB(Universal Serial Bus)や、ネットワークインタフェース等であり、外部のメモリや検査装置、サーバ等から、測定情報を受け入れて制御部11に出力する。本実施の形態の一例では、この測定情報は、患者の網膜層の厚さに係る検査結果の情報や、視野内の複数の点における視覚の感度に係る検査結果(光刺激による検査の結果等)の情報を含む。またこのインタフェース部15は、制御部11から入力される指示に従って、外部の装置等に対して、出力の対象となる情報を送出してもよい。 The interface section 15 is a USB (Universal Serial Bus), a network interface, or the like, and receives measurement information from an external memory, inspection device, server, etc., and outputs it to the control section 11 . In one example of this embodiment, this measurement information includes information on test results related to the thickness of the patient's retinal layer, test results related to visual sensitivity at multiple points within the visual field (results of tests using optical stimulation, etc.). ). The interface unit 15 may also send information to be output to an external device or the like in accordance with instructions input from the control unit 11.

次に、本実施の形態の制御部11の動作例について説明する。以下の例では、特定の人物(視野等の検査を受けているものとする)の視野の状態を予測することも目的の一つとなっているものとして説明する。本実施の形態に係る情報処理装置1の制御部11は、記憶部12に格納されたプログラムを実行することで、図2に例示するように、情報受入部21と、設定部22と、出力生成部23と、出力部24とを機能的に含む構成を実現する。 Next, an example of the operation of the control section 11 of this embodiment will be described. In the following example, it will be explained that one of the purposes is to predict the state of the visual field of a specific person (assuming that the person is undergoing a visual field test). By executing the program stored in the storage unit 12, the control unit 11 of the information processing device 1 according to the present embodiment controls the information receiving unit 21, the setting unit 22, and the output unit as illustrated in FIG. A configuration functionally including a generation section 23 and an output section 24 is realized.

なお、以下の説明では、記憶部12には、時刻情報に関連するパラメータを含むパラメータ群で規定される潜在空間の情報が保持されているものとする。ここでは具体的に、潜在空間が、
At+B
という時刻tに対して線型に変化する関数として(時刻情報の一次関数のパラメータを含むパラメータ群で)記述されているものとする。ここでA,Bは、R次元のベクトルであり、以下、
W=[AB]
を、R行2列の行列として定義する。初期的には、A,Bの各要素はランダムに定められる。この例では記憶部12は、ベクトルA,B(つまり行列W)の各要素の値を、潜在空間の情報として保持する。なお、この例では、ベクトルAの各要素が時刻情報に関連するパラメータであり、A,Bの各要素がパラメータ群に相当する。
In the following description, it is assumed that the storage unit 12 stores information on a latent space defined by a parameter group including parameters related to time information. Specifically, the latent space is
At+B
It is assumed that the function is described as a function that changes linearly with respect to time t (with a parameter group including parameters of a linear function of time information). Here, A and B are R-dimensional vectors, and below,
W=[AB]
is defined as a matrix with R rows and 2 columns. Initially, each element of A and B is randomly determined. In this example, the storage unit 12 holds the values of each element of vectors A and B (that is, matrix W) as latent space information. In this example, each element of vector A is a parameter related to time information, and each element of A and B corresponds to a parameter group.

また本実施の形態では、この潜在空間の情報は、後に説明する測定情報の対象ごとに得られるものとする。一例として、本実施の形態の情報処理装置1が、ある人物の視野の状態を予測するものである場合、ここでの測定情報の対象は、視野等の検査を受けた人物の各目であり、潜在空間の情報は、当該人物ごと、かつ、当該人物の目ごとに定められる。以下、各目i(i=0,1,2…)についての潜在空間の情報をWiなどとしてiを添字にして区別して記述する。 Furthermore, in this embodiment, it is assumed that information on this latent space is obtained for each object of measurement information, which will be described later. As an example, if the information processing device 1 of this embodiment is to predict the state of a certain person's visual field, the object of the measurement information here is each eye of the person who has undergone a visual field test, etc. , the information of the latent space is determined for each person and each person's eyes. Hereinafter, the information on the latent space for each eye i (i=0, 1, 2, . . . ) will be described separately as Wi, etc., with i as a subscript.

情報受入部21は、複数の互いに異なる種類の測定情報を含む測定情報群であって、当該測定情報が、それぞれ任意の時間に測定されてなる測定情報群の入力を受け入れる。具体的には、ここでの測定情報は、光干渉断層計(OCT)による、網膜層厚検査結果(網膜の構造に関する情報)と、視野検査の結果とを含む。本実施の形態では、情報受入部21は、このような網膜層厚検査結果と視野検査結果など、複数の互いに異なる種類の、かつ、任意の時点で(必ずしも同時として評価できない時点でそれぞれ)得られた検査の結果を受け入れる。また、この検査の結果は、必ずしも、特定の人物に係る検査の結果である必要はなく、複数の人物の検査結果が含まれてよい。 The information receiving unit 21 receives an input of a measurement information group including a plurality of different types of measurement information, each of which is measured at an arbitrary time. Specifically, the measurement information here includes a retinal layer thickness test result (information regarding the structure of the retina) and a visual field test result by optical coherence tomography (OCT). In the present embodiment, the information receiving unit 21 obtains a plurality of different types of retinal layer thickness test results and visual field test results at arbitrary times (times that cannot necessarily be evaluated simultaneously). Accept the results of the test. Furthermore, the test results do not necessarily have to be the test results for a specific person, and may include test results for a plurality of people.

なお、以下の例で視野検査の結果は、人の目の視野内に設定されたD個の視野検査点での、検査対象者の目が視認した最低明度を表すものとする。つまり視野検査の結果は、D次元のベクトルとなっている。 Note that in the following example, the results of the visual field test represent the lowest brightness visually recognized by the eyes of the test subject at D visual field test points set within the visual field of the human eye. In other words, the result of the visual field test is a D-dimensional vector.

設定部22は、受け入れた測定情報群に含まれる測定情報を、その測定情報の種類ごとに予め定められた方法で、潜在空間の情報に関連付ける。 The setting unit 22 associates the measurement information included in the received measurement information group with the information in the latent space using a predetermined method for each type of measurement information.

本実施の形態の一例では、測定情報として、画像データである網膜層厚検査結果(網膜の層ごとにGCIPL(Ganglion Cell and Inner Plexiform Layer),RNFL(Retinal Nerve Fiber Layer),RCL(Rod and Cone Layer)の3つの画像データがセットで得られる)と、ベクトルのデータである視野検査結果とを用いる。設定部22は、画像データである網膜層厚検査結果については所定の機械学習処理が施されたニューラルネットワークを用いて、画像データを、潜在空間の情報に関連するベクトルデータに変換する。ここで用いるニューラルネットワークについては後に述べる。また設定部22は、視野検査結果については、次の方法で潜在空間の情報への関連付けを行う。 In one example of the present embodiment, the measurement information includes retinal layer thickness test results that are image data (GCIPL (Ganglion Cell and Inner Plexiform Layer), RNFL (Retinal Nerve Fiber Layer), RCL (Rod and Cone Layer), (obtained as a set) and the visual field test results, which are vector data. The setting unit 22 converts the image data, which is the retinal layer thickness test result, into vector data related to information in the latent space using a neural network that has undergone predetermined machine learning processing. The neural network used here will be described later. Furthermore, the setting unit 22 associates the visual field test results with latent space information using the following method.

すなわち設定部22は、視野検査結果に対応する潜在空間の情報W0(ここで添字の「0」は、視野を予測しようとする人物の目(以下予測対象と呼ぶ)であることを意味する)を、
G0W0PT0+ε
とおき、この演算の結果が、過去に(T0-1)回行われた実際の視野検査結果と、現在(視野を予測しようとする時点)とを表す視野検査結果行列F0との誤差をできるだけ小さくするG0及びW0を定める。
That is, the setting unit 22 generates information W0 of the latent space corresponding to the visual field test result (here, the subscript "0" means the eyes of the person whose visual field is to be predicted (hereinafter referred to as the prediction target)) of,
G0W0P T 0+ε
The result of this calculation is to minimize the error between the actual visual field test results performed (T0 - 1) times in the past and the visual field test result matrix F0 representing the current (point of time when visual field is to be predicted). Determine G0 and W0 to be reduced.

ここで視野検査結果行列F0は、過去の時点τk(k=1,2,…,T0-1)における予測対象の視野検査の結果の列ベクトルをk列目に配列し、最終列に現在(視野を予測しようとする時点)での視野検査の結果の仮の値(以下の処理を行うことにより予測値に更新される)である列ベクトルを配列したものである。従って、この視野検査結果行列は((T0-1)+1)=T0個のD次元のベクトルを配列したものであり、D行T0列の行列となっている。 Here, the visual field test result matrix F0 arranges the column vectors of the results of the visual field test of the prediction target at past time points τk (k=1, 2,..., T0-1) in the k column, and the current ( This is an array of column vectors that are provisional values (updated to predicted values by performing the following processing) of the results of the visual field test at the time when the visual field is to be predicted. Therefore, this visual field test result matrix is an array of ((T0-1)+1)=T0 D-dimensional vectors, and is a matrix with D rows and T0 columns.

また、G0は、D行R列(Rは潜在空間の次元)の射影行列であり、P0は[t0,1T0]なる行列である。ここでt0は、過去に(T0-1)回の視野検査が行われた時刻(過去の所定の時点を基準時刻Tbとした相対時刻でよい)と、予測したい時刻とを表すT0次元のベクトル、1T0は、すべての要素を「1」としたT0次元のベクトルを意味する。またP0の肩のTは、転置をとることを意味する。なお、εは誤差を表す。 Further, G0 is a projection matrix with D rows and R columns (R is the dimension of the latent space), and P0 is a matrix [t0, 1T0]. Here, t0 is a T0-dimensional vector representing the time when (T0-1) visual field tests were performed in the past (a relative time with a predetermined time in the past as the reference time Tb) and the desired time to predict. , 1T0 means a T0-dimensional vector in which all elements are "1". Also, the T on the shoulder of P0 means transposition. Note that ε represents an error.

本実施の形態の設定部22は、F0-G0W0PT0のフロベニウスノルムの二乗を最小とするような、G0,W0を求めるよう動作する。つまり、設定部22は、

Figure 0007343145000001
を演算することとなる。 The setting unit 22 of this embodiment operates to obtain G0 and W0 that minimize the square of the Frobenius norm of F0 - G0 W0 P T 0. In other words, the setting section 22
Figure 0007343145000001
will be calculated.

ここでM0は、最終列のみを「0」、その他の要素を「1」としたマスク行列であり、

Figure 0007343145000002
は、要素ごとの積を求めることを意味する。また、
Figure 0007343145000003
は、Xのフロベニウスノルムである。 Here, M0 is a mask matrix with only the last column set to "0" and the other elements set to "1",
Figure 0007343145000002
means to find the product of each element. Also,
Figure 0007343145000003
is the Frobenius norm of X.

つまり、この例では、G0W0PT0が、視野検査結果と潜在空間の情報との変換関係を規定する情報であり、G0がその変換パラメータの一例に相当する。 That is, in this example, G0W0P T0 is information that defines the conversion relationship between the visual field test result and the information on the latent space, and G0 corresponds to an example of the conversion parameter.

なお、過去の視野検査結果のみから、現在の視野検査の結果を予測するのであれば、設定部22は、F0-G0W0PT0のフロベニウスノルムの二乗を最小とするような、G0,W0を得ればよい。この方法については、種々の広く知られた方法があるので、ここでの詳しい説明は省略する。 Note that if the current visual field test result is predicted only from the past visual field test result, the setting unit 22 obtains G0, W0 that minimizes the square of the Frobenius norm of F0 - G0W0P T 0. That's fine. Since there are various widely known methods for this method, a detailed explanation thereof will be omitted here.

次に、設定部22が画像データを潜在空間の情報に関連付ける方法の例について述べる。本実施の形態の例では、画像データと潜在空間の情報との変換関係を、CNN(畳み込み)ネットワークを含む多層のニューラルネットワークを利用して規定する。 Next, an example of how the setting unit 22 associates image data with latent space information will be described. In the example of this embodiment, the transformation relationship between image data and latent space information is defined using a multilayer neural network including a CNN (convolution) network.

この畳み込みネットワークに入力される情報は、時刻t0_k(k=1,2,…)において網膜層厚検査が行われるごとに得られた画像データ(網膜層厚検査結果)を配列したもので、画像データの次元(2次元)に時刻の次元(1次元)が加算され、さらに3つの画像データのセットが配列された4次元のデータ(画像の幅w×画像の高さh×検査の時刻T0×検査ごとの画像データの数(ここではGCIPL,RNFL,RCLの3つ))となる。なお、ここでの時刻t0_kもまた、視野検査結果の各時刻tの基準とした基準時刻tbとの相対時刻として表す(視野検査結果と同じ時系列に合わせるためである)。 The information input to this convolutional network is an array of image data (retinal layer thickness test results) obtained each time a retinal layer thickness test is performed at time t0_k (k=1, 2,...). The time dimension (1 dimension) is added to the data dimension (2 dimensions), and 4-dimensional data in which three image data sets are arranged (image width w x image height h x inspection time T0 x the number of image data for each examination (here, three: GCIPL, RNFL, and RCL)). Note that the time t0_k here is also expressed as a relative time with respect to the reference time tb that is used as a reference for each time t of the visual field test results (this is to align with the same time series as the visual field test results).

設定部22はここで、検査の時点ごとに得られる3つの画像データを連接して三次元データとし、これを検査の時刻順に配列して4次元のデータ(画像系列データ)とする。そして設定部22は、この4次元の画像系列データを、画像系列データと潜在空間の情報との変換関係を規定するニューラルネットワークへの入力とする。 Here, the setting unit 22 concatenates the three image data obtained at each time point of the examination to form three-dimensional data, and arranges this in the order of the time of the examination to form four-dimensional data (image series data). The setting unit 22 then inputs this four-dimensional image series data to a neural network that defines the transformation relationship between the image series data and the information of the latent space.

このニューラルネットワークは、入力層側では3次元の畳み込みネットワーク(多層のニューラルネットワーク)となっており、中間の層(3次元畳み込みネットワークの出力層)において情報をリシェイプ(次元の変換)し、2次元の畳み込みネットワーク(多層のニューラルネットワーク)にさらに当該リシェイプ後の情報を入力し、その出力としてR×2の要素を有した行列を得るものである。 This neural network is a three-dimensional convolutional network (multilayer neural network) on the input layer side, and the information is reshaped (dimensional conversion) in the intermediate layer (output layer of the three-dimensional convolutional network), and the two-dimensional The reshaped information is further input to a convolution network (multilayer neural network), and a matrix having R×2 elements is obtained as an output.

設定部22は、この2次元の畳み込みネットワークの出力を、潜在空間の情報W0として用いる。つまり、このニューラルネットワークは、

Figure 0007343145000004
と表すことができる。ここでC0は、入力データ(複数の画像データを配列した4次元の画像系列データ)であり、ΘEは、ニューラルネットワークの各層間の重みやバイアス等であり、変換パラメータの一例に相当する。 The setting unit 22 uses the output of this two-dimensional convolutional network as latent space information W0. In other words, this neural network
Figure 0007343145000004
It can be expressed as. Here, C0 is input data (four-dimensional image series data in which a plurality of image data are arranged), and ΘE is the weight, bias, etc. between each layer of the neural network, and corresponds to an example of a conversion parameter.

従って、設定部22は、現在の視野検査結果を表すような、潜在空間の情報W0が出力されるよう、ニューラルネットワークを機械学習すればよいが、このような潜在空間の情報W0は必ずしも自明ではない。 Therefore, the setting unit 22 may perform machine learning on the neural network so that the information W0 of the latent space that represents the current visual field test result is output, but such information W0 of the latent space is not necessarily obvious. do not have.

そこで本実施の形態では、設定部22は、次のようにして、潜在空間の情報W0と、視野検査結果の変換パラメータであるG0と、画像系列データ(網膜層厚検査結果)の変換パラメータであるΘEとを、まとめて機械学習する。 Therefore, in the present embodiment, the setting unit 22 uses the information W0 of the latent space, the conversion parameter G0 of the visual field test result, and the conversion parameter of the image series data (retinal layer thickness test result) as follows. Perform machine learning on a certain ΘE.

具体的に設定部22は、次のように定義される目的関数LDLLRを設定する。

Figure 0007343145000005
Specifically, the setting unit 22 sets an objective function LDLR defined as follows.
Figure 0007343145000005

なお、λ1は、網膜層厚検査結果をどれだけ潜在空間のパラメータに影響させるかを表すハイパーパラメータであり、実験的、あるいは経験的に定める。 Note that λ1 is a hyperparameter indicating how much the retinal layer thickness test result influences the parameters of the latent space, and is determined experimentally or empirically.

そして設定部22は、上記の目的関数LDLLRを最小化するように、潜在空間の情報W0と、視野検査結果の変換パラメータであるG0と、画像系列データ(網膜層厚検査結果に基づく4次元のデータ)の変換パラメータであるΘEとを、まとめて最適化する。ここでの最適化の方法としては、adam法(D.P.Kingma et.al., Adam: A method for stochastic optimization, arXiv:1412.6980(2014))など、広く知られた方法を採用できるので、ここでの詳しい説明は省略する。設定部22は、ここで最適化して得た視野検査結果の変換パラメータであるG0と、潜在空間の情報W0とを、更新した潜在空間の情報W0として記憶部12に格納する。 Then, the setting unit 22 uses the information W0 of the latent space, the conversion parameter G0 of the visual field test results, and the image series data (four-dimensional ΘE, which is a conversion parameter of data), are optimized all at once. As the optimization method here, widely known methods such as the Adam method (D.P. Kingma et.al., Adam: A method for stochastic optimization, arXiv:1412.6980(2014)) can be adopted, so Detailed explanation will be omitted. The setting unit 22 stores G0, which is the conversion parameter of the visual field test result obtained through optimization, and the latent space information W0 in the storage unit 12 as updated latent space information W0.

このように本実施の形態では、図3に概念的に示すように、設定部22が、測定情報I,Jの種類ごとに定められる変換パラメータ(G0やΘE)を用いて、各種類の測定情報を、潜在空間に対して射影し、あるいは変換するなどの方法で、潜在空間Wの情報(W0)に関連付ける。情報処理装置1は、上記の変換パラメータや潜在空間の情報を表すパラメータを、潜在空間の情報に基づく出力情報(F0)が、前記測定情報の少なくともいずれかに一致することとなるよう(目的関数が最小となるよう)機械学習を通じて求める。また、潜在空間Wは図3に例示するように、時刻に対して変化する関数(W0)の空間として表現しておく。 As described above, in this embodiment, as conceptually shown in FIG. The information is related to the information (W0) in the latent space W by projecting or transforming the information onto the latent space. The information processing device 1 converts the conversion parameters and parameters representing the information of the latent space so that the output information (F0) based on the information of the latent space matches at least one of the measurement information (objective function). ) is determined through machine learning. Further, the latent space W is expressed as a space of a function (W0) that changes with time, as illustrated in FIG.

出力生成部23は、記憶部12に格納された、更新された潜在空間の情報W0を用いて、ユーザが求める出力情報を生成する。本実施の形態の例では、ユーザは、現時点(処理の時点)での視野検査結果の情報が求められているので、出力生成部23は、記憶部12に格納されている潜在空間の情報W0及びG_0、並びにP(現在の時刻を表すパラメータ)を用いて、
F=G0W0PT
を求める。出力生成部23は、このFを、現時点(処理の時点)での視野検査結果の情報を表すベクトルとして、出力部24に出力する。
The output generation unit 23 uses the updated latent space information W0 stored in the storage unit 12 to generate output information desired by the user. In the example of the present embodiment, since the user wants information on the visual field test result at the current time (time of processing), the output generation unit 23 generates the latent space information W0 stored in the storage unit 12. and G_0, and P (parameter representing the current time),
F=G0W0P T
seek. The output generation unit 23 outputs this F to the output unit 24 as a vector representing information on the visual field test result at the current time (time of processing).

出力部24は、出力生成部23が出力するベクトルの情報を、表示部14等に表示するなどしてユーザに提示する。 The output unit 24 presents the vector information output by the output generation unit 23 to the user by displaying it on the display unit 14 or the like.

[他の目の情報を含める例]
また、ここまでの説明では設定部22が、予測の対象とする目に関する測定情報を用いて、潜在空間の情報を最適化し、当該最適化された潜在空間の情報に基づいて、視野検査の結果を予測することとしていたが、本実施の形態では、予測の対象とする目だけではなく、他の目(予測の対象となる人物のもう一つの目、あるいは他の人物の目)に係る測定情報をも用いて、潜在空間の情報の最適化を行ってもよい。
[Example of including information about other eyes]
In addition, in the explanation up to this point, the setting unit 22 optimizes the information of the latent space using the measurement information regarding the eye that is the target of prediction, and based on the information of the optimized latent space, the setting unit 22 However, in this embodiment, measurements related not only to the eye targeted for prediction but also to other eyes (another eye of the person targeted for prediction, or the eyes of another person) are performed. Information may also be used to optimize the information in the latent space.

この例では、設定部22は、(1)式に代えて、次の(2)式を用い、この(2)式を最小化する。

Figure 0007343145000006
In this example, the setting unit 22 uses the following equation (2) instead of equation (1), and minimizes equation (2).
Figure 0007343145000006

この(2)式において、λ0は、ハイパーパラメータであり、また、Nは測定情報が得られている目の数に1を加算した数であり、z0,jは、目の類似度を表すパラメータである。このz0,jは、ここでは、

Figure 0007343145000007

と定義しておく。 In this equation (2), λ0 is a hyperparameter, N is the number of eyes for which measurement information is obtained plus 1, and z0,j is a parameter representing the degree of eye similarity. It is. This z0,j is here,
Figure 0007343145000007

Let's define it as

ここで、F*jは、F0に対応する目以外の、測定対象の目について、F0に含まれる視野検査結果が得られた時点τk(k=1,2,…T0-1)での目j(j=1,2,…)の視野検査結果の予測値(列ベクトル)を、対応する列(k列目)に配列したものである。この視野検査結果の予測値は、ここでは、目jについての実際の視野検査結果に基づく線形回帰による予測値とする。その演算方法は、Kenji Yamanishi, et.al., Predicting glaucoma progression using multi-task learning with heterogeneous features, In Big Data. 2014, IEEE International Conference on. IEEE 261-270に詳細な説明があるので、ここではその説明を省略する。 Here, F*j is the eye at the time τk (k=1, 2,...T0-1) when the visual field test results included in F0 are obtained for the eye to be measured other than the eye corresponding to F0. Predicted values (column vectors) of visual field test results for j (j=1, 2, . . . ) are arranged in corresponding columns (k-th column). Here, the predicted value of the visual field test result is a predicted value obtained by linear regression based on the actual visual field test result for eye j. The calculation method is detailed in Kenji Yamanishi, et.al., Predicting glaucoma progression using multi-task learning with heterogeneous features, In Big Data. 2014, IEEE International Conference on. IEEE 261-270, so I will not explain it here. The explanation will be omitted.

また、σ2は、

Figure 0007343145000008
を、可能なi,jの組み合わせについて求めたときの中央値(median)である。 Also, σ 2 is
Figure 0007343145000008
is the median value obtained for possible combinations of i and j.

また、設定部22は、網膜層厚検査結果に基づいて得られる画像系列データについても次のように、他の目(予測の対象となる人物のもう一つの目、あるいは他の人物の目)も含めた処理を行う。すなわち設定部22は、

Figure 0007343145000009
となるようニューラルネットワークfの機械学習を行う。 Further, the setting unit 22 also sets the image series data obtained based on the retinal layer thickness test results to other eyes (another eye of the person who is the target of prediction, or an eye of another person) as follows. Processing including That is, the setting section 22
Figure 0007343145000009
Perform machine learning on the neural network f so that

具体的に設定部22は、この例においても潜在空間の情報W0と、視野検査結果の変換パラメータであるG0と、画像系列データ(網膜層厚検査結果に基づく4次元のデータ)の変換パラメータであるΘEとを、まとめて機械学習するため、次のように目的関数LDLLRを設定する:

Figure 0007343145000010
Specifically, in this example, the setting unit 22 also uses the information W0 of the latent space, the conversion parameter G0 of the visual field test result, and the conversion parameter of the image series data (four-dimensional data based on the retinal layer thickness test result). In order to perform machine learning on a certain ΘE at once, set the objective function LDLLR as follows:
Figure 0007343145000010

そして設定部22は、上記の目的関数LDLLRを最小化するように、潜在空間の情報Wi(i=0を含む)と、視野検査結果の変換パラメータであるGiと、画像系列データ(網膜層厚検査結果に基づく4次元のデータ)の変換パラメータであるΘEとを、まとめて最適化する。 Then, the setting unit 22 sets the latent space information Wi (including i=0), the conversion parameter Gi of the visual field test result, and the image series data (retinal layer thickness ΘE, which is a conversion parameter of four-dimensional data based on the inspection results, are collectively optimized.

さらにここで目的関数には、正則化項として、L2正則化項及び、オートエンコーダの正則化項を加えてもよい。すなわち、

Figure 0007343145000011
としてもよい。ここで、LDLLRは、(4)式のLDLLRである。また、g(・,ΘD)は、f(Ci,ΘE)のデコーダであり、f(Ci,ΘE)と対称的な構造を有するニューラルネットワークである。従って、
Figure 0007343145000012
は、オートエンコーダを意味し、その出力は、入力情報と同じサイズの画像系列データとなる。(5)式の目的関数の第2項ではオートエンコーダの出力と、入力情報との差のフロベニウスノルムの二乗を求めていることとなる。 Further, here, an L2 regularization term and an autoencoder regularization term may be added to the objective function as regularization terms. That is,
Figure 0007343145000011
You can also use it as Here, LDLLR is LDLLR of equation (4). Furthermore, g(·, ΘD) is a decoder of f(Ci, ΘE), and is a neural network having a structure symmetrical to f(Ci, ΘE). Therefore,
Figure 0007343145000012
means an autoencoder, and its output is image series data of the same size as the input information. The second term of the objective function in equation (5) calculates the square of the Frobenius norm of the difference between the output of the autoencoder and the input information.

また(5)式の第3項は、L2正則化項である。なお、λ2,λ3はハイパーパラメータであり、それぞれの項の重要度を定めるものである。これらλ2,λ3も、経験的あるいは実験的に定められる。 Further, the third term in equation (5) is the L2 regularization term. Note that λ2 and λ3 are hyperparameters that determine the importance of each term. These λ2 and λ3 are also determined empirically or experimentally.

この例においても、設定部22は、上記の目的関数L′DLLRを最小化するように、潜在空間の情報W0と、視野検査結果の変換パラメータであるG0と、画像系列データ(網膜層厚検査結果に基づく4次元のデータ)の変換パラメータであるΘEとを、まとめて最適化する。 In this example as well, the setting unit 22 sets the information W0 of the latent space, the transformation parameter G0 of the visual field test results, and the image series data (retinal layer thickness test ΘE, which is a transformation parameter of 4-dimensional data based on the results, are optimized together.

ここでも最適化の方法としては、adam法など、広く知られた方法を採用できる。設定部22は、ここで述べたLDLLRあるいは、L′DLLRを最適化して得た視野検査結果の変換パラメータであるG0と、潜在空間の情報W0とを、更新した潜在空間の情報W0として記憶部12に格納する。 Here again, widely known methods such as the adam method can be used as the optimization method. The setting unit 22 stores G0, which is the conversion parameter of the visual field test result obtained by optimizing LDLLR or L′DLLR, and the latent space information W0 as updated latent space information W0 in the storage unit. 12.

[動作]
本発明の実施の形態に係る情報処理装置1は、例えば以上の構成を備えてなり、次のように動作する。なお、以下の説明では、複数の目(複数の計測対象者の各目)について、過去の任意の時点で行われた視野検査の結果(視野内の各点での計測対象者の感度の情報)や、また別の時点で行われた網膜層厚検査結果(画像データとなっている)との入力を受けて、特定の計測対象者のいずれかの目を予測対象として、当該予測対象となった目の視野検査の結果を予測する例について説明する。
[motion]
The information processing device 1 according to the embodiment of the present invention has, for example, the above configuration and operates as follows. In addition, in the following explanation, the results of a visual field test conducted at any point in the past for multiple eyes (each eye of multiple measurement subjects) (information on the sensitivity of the measurement subject at each point in the visual field) will be used. ) or retinal layer thickness test results (image data) conducted at another time, one of the eyes of a specific measurement subject is selected as the prediction target. An example of predicting the results of a visual field test for an eye will be described.

この例では、情報処理装置1は、図4に例示するように、過去に行われた、光干渉断層計(OCT)による、網膜層厚検査結果(網膜の構造に関する情報)と、視野検査の結果とをそれぞれ測定情報として含む、測定情報群を受け入れる(S11)。既に述べたように、これらの検査は、いずれも過去の任意の時点で個別に行われており、同じ目についても、必ずしも双方が同時として評価できる時点で得られたとは限らないものとする。 In this example, as illustrated in FIG. 4, the information processing device 1 uses the results of a retinal layer thickness test (information regarding the structure of the retina) and the visual field test conducted in the past using optical coherence tomography (OCT). A group of measurement information including each result as measurement information is accepted (S11). As mentioned above, all of these tests were performed individually at arbitrary points in the past, and even for the same eye, it is not necessarily the case that both tests were performed at the same time.

情報処理装置1は、ここで受け入れた測定情報群に含まれる各測定情報を、測定情報の種類ごとに予め定められた方法で、潜在空間の情報に関連付ける。具体的に情報処理装置1は、計測対象の目を順次予測対象の目として選択して、次の処理を繰り返す(S12)。 The information processing device 1 associates each piece of measurement information included in the measurement information group accepted here with information in the latent space using a predetermined method for each type of measurement information. Specifically, the information processing device 1 sequentially selects the eye to be measured as the eye to be predicted, and repeats the following process (S12).

情報処理装置1は、予測対象の目について過去に(T0-1)回行われた実際の視野検査結果を列ベクトルとして行方向に配列し、最後の列に、現在(視野を予測しようとする時点)の視野検査結果の仮の値を列ベクトルとして配列した、D行T0列(Dは視野検査の検査点の数)の視野検査結果行列F0を生成する(S13)。 The information processing device 1 arranges the actual visual field test results performed (T0-1) times in the past on the eye of the prediction target as column vectors in the row direction, and in the last column, the current (field of view to be predicted) A visual field test result matrix F0 of D rows and T0 columns (D is the number of test points of the visual field test) is generated, in which provisional values of the visual field test results at the time point) are arranged as column vectors (S13).

また情報処理装置1は、予測対象以外の、測定対象の目ごとに、視野検査結果の線形回帰のパラメータを求め、処理S13で生成した、F0の最初の(T0-1)列に含まれる各検査の時点に対応する時点での、測定対象の目ごとの視野検査結果の予測値を、この線形回帰のパラメータを利用して求めて、対応する時点の予測値を列ベクトルとして配列してF*jを得る(S14)。情報処理装置1は、処理S15で得たF*jを用いて、(3)式により、予測対象と目jとの類似度を表すパラメータz0,jを得る(S15)。 In addition, the information processing device 1 calculates linear regression parameters of the visual field test results for each eye of the measurement target other than the prediction target, and calculates the linear regression parameters of the visual field test results for each eye included in the first (T0-1) column of F0 generated in process S13. The predicted value of the visual field test result for each eye to be measured at the time point corresponding to the time point of the test is obtained using the parameters of this linear regression, and the predicted values at the corresponding time point are arranged as a column vector and F *j is obtained (S14). The information processing device 1 uses F*j obtained in process S15 to obtain a parameter z0,j representing the degree of similarity between the prediction target and eye j according to equation (3) (S15).

情報処理装置1は、次に、網膜層厚検査結果の画像データについて、検査の時点ごとの画像データを連接してニューラルネットワークに入力する4次元の画像系列データを得る(S16)。なお、ここで情報処理装置1は、予め定めた数より多い回数の網膜層厚検査結果の画像データがある場合は、上記予め定めた数以下の網膜層厚検査結果の画像データを選択して用いてもよい。 Next, regarding the image data of the retinal layer thickness test results, the information processing device 1 concatenates the image data for each time point of the test to obtain four-dimensional image series data to be input into the neural network (S16). Note that if there is image data of retinal layer thickness test results more than a predetermined number of times, the information processing device 1 selects image data of retinal layer thickness test results less than or equal to the predetermined number. May be used.

ここで情報処理装置1は、予測対象となり得る目ごとの潜在空間を規定する情報Wi(i=0,1,2…)を初期化する。この例では目iの潜在空間が、
Ait+Bi
という時刻tに対して線型に変化する関数として記述されているものとすると、
Wi=[AiBi]
なるR行2列の行列として定義する。情報処理装置1は、この潜在空間の情報を表すパラメータであるAi,Biの各要素をランダムに、あるいは事前の知識に基づいて定める(S17)。また情報処理装置1は、オートエンコーダ

Figure 0007343145000013
を、予備的に機械学習する(S18)。この機械学習は、処理S16で生成した画像系列データのうちから任意に(ランダムに)選択した複数の画像系列データをオートエンコーダに入力し、オートエンコーダの出力と、入力した画像系列データとの誤差が小さくなるよう機械学習することで行えばよい。具体的に情報処理装置1は、
Figure 0007343145000014
を最小化するように、adam法などを用いて
Figure 0007343145000015
を定める。そして、情報処理装置1は、その後LDLLR,L′DLLRを用いた演算を行う際には、LDLLR,L′DLLRに含まれるΘE,ΘDを、
Figure 0007343145000016
で初期化して演算を行うこととする。 Here, the information processing device 1 initializes information Wi (i=0, 1, 2, . . . ) that defines a latent space for each eye that can be a prediction target. In this example, the latent space of eye i is
Ait+Bi
Assuming that it is described as a function that changes linearly with respect to time t,
Wi=[AiBi]
It is defined as a matrix with R rows and 2 columns. The information processing device 1 determines each element of Ai and Bi, which are parameters representing information of this latent space, randomly or based on prior knowledge (S17). The information processing device 1 also includes an autoencoder
Figure 0007343145000013
is subjected to preliminary machine learning (S18). This machine learning is performed by inputting a plurality of image series data arbitrarily (randomly) selected from among the image series data generated in process S16 into an autoencoder, and comparing the error between the output of the autoencoder and the input image series data. This can be done by using machine learning to reduce the value. Specifically, the information processing device 1
Figure 0007343145000014
Using the adam method etc. to minimize
Figure 0007343145000015
Establish. Then, when the information processing device 1 subsequently performs calculations using LDLLR and L'DLLR, ΘE and ΘD included in LDLLR and L'DLLR are
Figure 0007343145000016
Let's initialize it with and perform the calculation.

また情報処理装置1は、処理S18において、視野検査結果の変換パラメータであるGiについても予備的に機械学習を行って初期化する。この初期化も、先にランダムに定めたWiを用いて、Fi-GiWiPTiをadam法などにより最小化するよう機械学習を行うことにより実行できる。 In addition, in process S18, the information processing device 1 also performs preliminary machine learning on Gi, which is a conversion parameter of the visual field test result, to initialize it. This initialization can also be performed by performing machine learning to minimize Fi-GiWiP T i using the adam method or the like using Wi determined at random in advance.

この場合も、情報処理装置1は、

Figure 0007343145000017
を最小化するGをadam法などにより得て、Giを用いた演算を行う際には、いずれのGiについても(任意のiについて)、Gi=Gと初期化する。 In this case as well, the information processing device 1
Figure 0007343145000017
When G that minimizes G is obtained by the adam method or the like and an operation using Gi is performed, any Gi (for any i) is initialized as Gi=G.

そして情報処理装置1は、(5)式を最小化するよう、adam法などにより繰り返し演算を行う(S19)。この繰り返し演算は、L′DLLRが収束するまで(前回得たL′DLLRと、そこから更新して得たL′DLLRとの差が所定のしきい値を下回るまで)行われる。 Then, the information processing device 1 repeatedly performs calculations using the adam method or the like so as to minimize equation (5) (S19). This repeated calculation is performed until L'DLLR converges (until the difference between L'DLLR obtained last time and L'DLLR obtained by updating therefrom falls below a predetermined threshold).

処理S19における繰り返しの演算が終了すると(L′DLLRが最小化されたと判断されると)、情報処理装置1は、その時点でのGi,Wiを記憶部12に格納して(S20)、予測対象としていない目がある場合は処理S13に戻って処理を続け(S21)、ここで全ての目について予測対象として処理を行ったならば、処理を終了する、 When the repeated calculation in process S19 is completed (when it is determined that L'DLLR has been minimized), the information processing device 1 stores Gi and Wi at that time in the storage unit 12 (S20), and performs the prediction. If there is an eye that is not targeted, return to step S13 and continue the process (S21), and if all eyes have been processed as prediction targets, the process ends.

情報処理装置1は、そして、記憶部12に格納された、更新された潜在空間の情報Wi、及び視野検査結果の変換パラメータであるGiのうち、予測対象とする目についてのWi,Giを選択してW0,G0とし、P(現在の時刻を表すパラメータ)を用いて、
F=G0W0PT
を求める。情報処理装置1は、このFを、現時点(処理の時点)での視野検査結果の情報を表すベクトルとして、ユーザに提示する。具体的には、Fの各要素が表す視野検査点の位置に、当該Fの要素の値を表示することとしてもよい。
The information processing device 1 then selects Wi and Gi for the eye to be predicted from among the updated latent space information Wi and the transformation parameters Gi for the visual field test results stored in the storage unit 12. and set it as W0 and G0, and using P (a parameter representing the current time),
F=G0W0P T
seek. The information processing device 1 presents this F to the user as a vector representing information on the visual field test result at the current time (time of processing). Specifically, the value of each element of F may be displayed at the position of the visual field test point represented by each element of F.

なお、情報処理装置1は上記の、Gi,Wiの演算の際に、Fの要素を、正規化(最大値が「1」となるように、各検査点での値としてあり得る最大の値qmaxで、各検査点での検査結果の値を除しておくことと)してもよい。このように正規化が行われている場合は、情報処理装置1は、現時点(処理の時点)での視野検査結果の情報を表すベクトルとして得られたFの各要素の値に、上記各検査点での値としてあり得る最大の値qmaxを乗じてから出力してもよい。 Note that when calculating Gi and Wi, the information processing device 1 normalizes the elements of F (the maximum possible value at each inspection point so that the maximum value is "1"). The value of the test result at each test point may be divided by qmax). When normalization is performed in this way, the information processing device 1 adds the value of each element of F obtained as a vector representing the information of the visual field test result at the current time (point of processing) to the value of each of the above tests. It may be output after being multiplied by the maximum possible value qmax at the point.

このように本実施の形態によると、異なる種類の検査が、それぞれ異なる時点で行われていた場合であっても、それぞれの検査の結果等を、共通の潜在空間のパラメータに関連付けて扱い、当該潜在空間で必要な情報に対応する結果を生成して、必要な情報に逆変換することで、各種、各時点での検査の結果を総合した予測を得ることができ、過去の検査結果の情報を有効に利用させることができる。 As described above, according to the present embodiment, even if different types of tests are performed at different times, the results of each test are handled in association with the parameters of a common latent space, and the corresponding By generating results corresponding to the necessary information in the latent space and inversely converting them into the necessary information, it is possible to obtain a prediction that integrates the results of various tests at each point in time, and to obtain information on past test results. can be used effectively.

なお、本実施の形態のここでの例では、視野に関する潜在空間の情報を得て、視野検査の結果を予測する例について述べたが、本実施の形態の情報処理装置1は、このような処理を行うものに限られず、時系列変化する情報(例えば何らかの構造物の経年劣化など)について、当該情報に関連すると想定される複数種類の測定値が散発的に得られているようなケースについて幅広く応用できる。 Note that in this example of the present embodiment, an example has been described in which information on a latent space related to the visual field is obtained and the result of a visual field test is predicted. Regarding cases where multiple types of measurement values that are assumed to be related to information that changes over time (for example, deterioration of some kind of structure over time) are obtained sporadically, not limited to information that is processed. Can be widely applied.

次に、本実施の形態の情報処理装置1による視野検査結果の予測と、実際に測定した結果との誤差(RMSE:root mean squared error)を求めた例を示す。 Next, an example will be shown in which the error (RMSE: root mean squared error) between the prediction of the visual field test result by the information processing device 1 of the present embodiment and the actually measured result is calculated.

[表1]には、本実施の形態の方法(DLLR)との比較のため、比較例1として測定対象者ごとの線型回帰により予測した例(LR)と、Zenghan Liangらによる(Zenhang Liang, et.al., Quantitative prediction of glaucomatous visual field loss from few measurements., In Data Mining(ICDM), 2013, IEEE 13th International Conference on. IEEE,. 1121-1126)クラスタリングを用いた方法(TSLR)と、Shigeru Mayaらによる(Shigeru Maya, et. al., Predicting glaucoma progression using multi-task learning with heterogeneous features. In Big Data(Big Data), 2014, IEEE International Conference on. IEEE, 261-270 )、Multitask Matrix Completionを用いた方法(MTMC)を併せて示す。 [Table 1] shows an example (LR) predicted by linear regression for each measurement subject as Comparative Example 1 for comparison with the method of this embodiment (DLLR), and a prediction example (LR) by Zenghan Liang et al. et.al., Quantitative prediction of glaucomatous visual field loss from few measurements., In Data Mining(ICDM), 2013, IEEE 13th International Conference on. IEEE,. 1121-1126) Method using clustering (TSLR) and Shigeru (Shigeru Maya, et. al., Predicting glaucoma progression using multi-task learning with heterogeneous features. In Big Data(Big Data), 2014, IEEE International Conference on. IEEE, 261-270), Multitask Matrix Completion The method used (MTMC) is also shown.

なお、[表1]において横軸のSは、使用する網膜層厚検査結果の回数(図4の処理S16で用いる数)である。 Note that in [Table 1], S on the horizontal axis is the number of times the retinal layer thickness test results are used (the number used in process S16 in FIG. 4).

[表1]に示されるように、他の方法に比べ、本実施の形態の方法によると、用いる検査数が比較的少数であっても、比較的低い誤差で、視野検査結果を予測できる。

Figure 0007343145000018
As shown in Table 1, compared to other methods, the method of this embodiment allows the visual field test results to be predicted with a relatively low error even if the number of tests used is relatively small.
Figure 0007343145000018

1 情報処理装置、11 制御部、12 記憶部、13 操作部、14 表示部、15 インタフェース部、21 情報受入部、22 設定部、23 出力生成部、24 出力部。 1 information processing device, 11 control unit, 12 storage unit, 13 operation unit, 14 display unit, 15 interface unit, 21 information reception unit, 22 setting unit, 23 output generation unit, 24 output unit.

Claims (6)

時刻情報の関数のパラメータを含むパラメータ群で規定される潜在空間の情報を保持する保持手段と、
複数の互いに異なる種類の測定情報を含む測定情報群であって、前記測定情報が、それぞれ任意の時間に測定されてなる測定情報群の入力を受け入れる受入手段と、
前記受け入れた測定情報群に含まれる測定情報の種類ごとに予め定められた方法で、当該種類の測定情報を用いて、前記保持手段が保持する前記潜在空間の情報を更新して設定する設定手段と、
前記設定手段により更新された、前記保持手段が保持する前記潜在空間の情報を用い、所定の出力情報を生成する出力情報生成手段と、
を含み、
前記潜在空間の情報は、時刻情報の関数のパラメータを含むパラメータ群で規定される情報処理装置。
holding means for holding information on a latent space defined by a parameter group including parameters of a time information function ;
Accepting means for receiving input of a measurement information group including a plurality of different types of measurement information, each of which is measured at an arbitrary time;
Setting means for updating and setting the information of the latent space held by the holding means using the measurement information of the type in a predetermined manner for each type of measurement information included in the accepted measurement information group; and,
output information generating means for generating predetermined output information using the information of the latent space held by the holding means updated by the setting means;
including;
An information processing device in which the information of the latent space is defined by a parameter group including a parameter of a function of time information .
請求項1に記載の情報処理装置であって、
前記測定情報は、その種類ごとに予め、前記潜在空間の情報との変換関係が所定の変換パラメータを用いて設定されており、
前記設定手段は、前記測定情報の種類ごとの前記変換パラメータと、前記保持手段が保持する前記潜在空間の情報とを、前記潜在空間の情報に基づく前記出力情報が、前記測定情報の少なくともいずれかとの誤差を小さくするよう機械学習する情報処理装置。
The information processing device according to claim 1,
For each type of measurement information, a conversion relationship with the information of the latent space is set in advance using a predetermined conversion parameter,
The setting means sets the conversion parameters for each type of measurement information and the information on the latent space held by the holding means so that the output information based on the information on the latent space is at least one of the measurement information. An information processing device that performs machine learning to reduce errors.
請求項1または2に記載の情報処理装置であって、
前記測定情報には、画像系列データと視野検査の結果とが含まれ、
前記潜在空間の情報は測定情報の対象ごとに定められ、
前記設定手段は、前記画像系列データの変換パラメータと前記潜在空間の情報とに基づく項と、並びに、前記視野検査結果の変換パラメータと前記潜在空間の情報とに基づく項とを含む目的関数を最小化して、前記測定情報の種類ごとの前記変換パラメータと、前記保持手段が保持する前記潜在空間の情報とを、前記潜在空間の情報に基づく前記出力情報が、前記測定情報のそれぞれとの誤差を小さくするようまとめて機械学習する情報処理装置。
The information processing device according to claim 1 or 2,
The measurement information includes image series data and visual field test results,
The information of the latent space is determined for each target of measurement information,
The setting means minimizes an objective function including a term based on a transformation parameter of the image series data and information on the latent space, and a term based on the transformation parameter of the visual field test result and information on the latent space. The conversion parameters for each type of measurement information and the information on the latent space held by the holding means are set such that the output information based on the information on the latent space has an error with each of the measurement information. An information processing device that performs machine learning all at once to make it smaller .
請求項1から3のいずれか一項に記載の情報処理装置であって、
前記測定情報には、画像系列データが含まれ、
前記設定手段は、前記画像系列データと前記潜在空間の情報との変換関係を、ニューラルネットワークにより規定してなる情報処理装置。
The information processing device according to any one of claims 1 to 3,
The measurement information includes image series data,
The information processing device is configured such that the setting means defines a conversion relationship between the image series data and the information of the latent space using a neural network.
時刻情報の関数のパラメータを含むパラメータ群で規定される潜在空間の情報を保持する保持手段を備えるコンピュータを用い、
受入手段が、複数の互いに異なる種類の測定情報を含む測定情報群であって、前記測定情報が、それぞれ任意の時間に測定されてなる測定情報群の入力を受け入れ、
設定手段が、前記受け入れた測定情報群に含まれる測定情報の種類ごとに予め定められた方法で、当該種類の測定情報を用いて、前記保持手段が保持する前記潜在空間の情報を更新して設定し、
出力情報生成手段が、前記設定手段により更新された、前記保持手段が保持する前記潜在空間の情報を用い、所定の出力情報を生成する情報処理方法。
Using a computer equipped with a holding means for holding information of a latent space defined by a parameter group including parameters of a time information function ,
the receiving means receives an input of a measurement information group including a plurality of different types of measurement information, each of which is measured at an arbitrary time;
The setting means updates the information of the latent space held by the holding means using the measurement information of the type in a predetermined manner for each type of measurement information included in the accepted measurement information group. Set,
An information processing method, wherein an output information generating means generates predetermined output information using information of the latent space held by the holding means, updated by the setting means.
コンピュータを、
時刻情報の関数のパラメータを含むパラメータ群で規定される潜在空間の情報を保持する保持手段と、
複数の互いに異なる種類の測定情報を含む測定情報群であって、前記測定情報が、それぞれ任意の時間に測定されてなる測定情報群の入力を受け入れる受入手段と、
前記受け入れた測定情報群に含まれる測定情報の種類ごとに予め定められた方法で、当該種類の測定情報を用いて、前記保持手段が保持する前記潜在空間の情報を更新して設定する設定手段と、
前記設定手段により更新された、前記保持手段が保持する前記潜在空間の情報を用い、所定の出力情報を生成する出力情報生成手段と、
として機能させるプログラム。
computer,
holding means for holding information on a latent space defined by a parameter group including parameters of a time information function ;
Accepting means for receiving input of a measurement information group including a plurality of different types of measurement information, each of which is measured at an arbitrary time;
Setting means for updating and setting the information of the latent space held by the holding means using the measurement information of the type in a predetermined manner for each type of measurement information included in the accepted measurement information group; and,
output information generation means for generating predetermined output information using the information of the latent space held by the holding means updated by the setting means;
A program that functions as
JP2019114984A 2019-06-20 2019-06-20 Information processing device, information processing method, and program Active JP7343145B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019114984A JP7343145B2 (en) 2019-06-20 2019-06-20 Information processing device, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019114984A JP7343145B2 (en) 2019-06-20 2019-06-20 Information processing device, information processing method, and program

Publications (2)

Publication Number Publication Date
JP2021000224A JP2021000224A (en) 2021-01-07
JP7343145B2 true JP7343145B2 (en) 2023-09-12

Family

ID=73993864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019114984A Active JP7343145B2 (en) 2019-06-20 2019-06-20 Information processing device, information processing method, and program

Country Status (1)

Country Link
JP (1) JP7343145B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12452385B2 (en) * 2022-03-29 2025-10-21 Disney Enterprises, Inc. Method and system for deep learning based face swapping with multiple encoders
US12277738B2 (en) 2022-03-29 2025-04-15 Lucasfilm Entertainment Company Ltd. LLC Method and system for latent-space facial feature editing in deep learning based face swapping
US20250191771A1 (en) * 2022-04-11 2025-06-12 University Of Leeds Determination of cardiac functional indices

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013501553A (en) 2009-08-10 2013-01-17 カール ツァイス メディテック アクチエンゲゼルシャフト Combination analysis of glaucoma
JP2013027439A (en) 2011-07-26 2013-02-07 Nidek Co Ltd Apparatus and program for creating retina treatment schedule
WO2018083853A1 (en) 2016-11-02 2018-05-11 国立大学法人 東京大学 Visual field sensitivity estimation device, method for controlling visual field sensitivity estimation device, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013501553A (en) 2009-08-10 2013-01-17 カール ツァイス メディテック アクチエンゲゼルシャフト Combination analysis of glaucoma
JP2013027439A (en) 2011-07-26 2013-02-07 Nidek Co Ltd Apparatus and program for creating retina treatment schedule
WO2018083853A1 (en) 2016-11-02 2018-05-11 国立大学法人 東京大学 Visual field sensitivity estimation device, method for controlling visual field sensitivity estimation device, and program

Also Published As

Publication number Publication date
JP2021000224A (en) 2021-01-07

Similar Documents

Publication Publication Date Title
US10719932B2 (en) Identifying suspicious areas in ophthalmic data
Serener et al. Dry and wet age-related macular degeneration classification using oct images and deep learning
JP7343145B2 (en) Information processing device, information processing method, and program
JP6244059B2 (en) Face image verification method and face image verification system based on reference image
JP2024096475A (en) Systems and methods for imputing data using generative models
US12502141B2 (en) Neural network processing of OCT data to generate predictions of geographic-atrophy growth rates
CN106257475B (en) A modular automated scoring system for TBI assessment
CN110070531A (en) For detecting the model training method of eyeground picture, the detection method and device of eyeground picture
US11631500B2 (en) Patient specific risk prediction of cardiac events from image-derived cardiac function features
CN112446418A (en) Fundus classification model integration system, method, electronic device and medium
CN115512153A (en) Retinal OCT image classification method, system, computer equipment and storage medium based on multi-scale residual network
CN112101438B (en) A left-right eye classification method, device, server and storage medium
EP4049287B1 (en) Machine-learning techniques for prediction of future visual acuity
US20250322937A1 (en) Predicting geographic atrophy growth rate from fundus autofluorescence images using deep neural networks
Ardiyansa et al. Optimizing heart attack diagnosis using random forest with bat algorithm and greedy crossover technique
Rao et al. An approach for heart disease detection by enhancing training phase of neural network using hybrid algorithm
WO2018083853A1 (en) Visual field sensitivity estimation device, method for controlling visual field sensitivity estimation device, and program
WO2025073881A1 (en) Method and apparatus for predicting progression of a pathology
CN114373220B (en) Spatiotemporal graph network interpretable method, visualization method and related device
JP5463073B2 (en) Investigation device and investigation method
Kamkar et al. Exploiting feature relationships towards stable feature selection
Yılmaz et al. Classification of grapevine leaf types with vision transformer architecture
JP2024516541A (en) Predicting treatment outcomes for neovascular age-related macular degeneration using baseline characteristics
Harjoko et al. e-LSTM: EfficientNet and Long Short-Term Memory Model for Detection of Glaucoma Diseases.
Araújo et al. A single-resolution fully convolutional network for retinal vessel segmentation in raw fundus images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220616

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230314

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230824

R150 Certificate of patent or registration of utility model

Ref document number: 7343145

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150