JP7014069B2 - データ解析装置、方法、及びプログラム - Google Patents
データ解析装置、方法、及びプログラム Download PDFInfo
- Publication number
- JP7014069B2 JP7014069B2 JP2018131626A JP2018131626A JP7014069B2 JP 7014069 B2 JP7014069 B2 JP 7014069B2 JP 2018131626 A JP2018131626 A JP 2018131626A JP 2018131626 A JP2018131626 A JP 2018131626A JP 7014069 B2 JP7014069 B2 JP 7014069B2
- Authority
- JP
- Japan
- Prior art keywords
- value
- matrix
- factor
- factor matrix
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Algebra (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Operations Research (AREA)
- Computational Linguistics (AREA)
- Complex Calculations (AREA)
Description
本発明の実施の形態では、要素がスカラー値または区間値で表現される区間値行列を因子分解する方法を示す。これにより、会員ユーザとアンケートで収集した非会員ユーザのデータ組のようにスカラー値と区間値をもつ行列として表現されるデータから潜在的なパターンを抽出したり精度のよい欠損値の補完を行うことが可能となる。
データがI行J列の区間値行列Xで表現されているとする。区間値行列Xはスカラー値要素xijと区間値要素(xL ij, xR ij)から成り、
と精度τから成る。因子行列Aは、第1のオブジェクトiと、因子r(1≦r≦R,Rは1以上の整数)との関係を表す要素airを持つI×Rの行列であり、因子行列Bは、第2のオブジェクトjと、因子rとの関係を表す要素bjrを持つJ×Rの行列である。Rは因子行列の因子数を表す。通常のNMFの定式化に従い、区間値行列Xの要素が正規分布に従うと仮定したモデルを考える。
パラメタΘの推定には任意の最適化手法が利用できる。 本実施の形態では、式(6)の最適化問題の解となるパラメタ推定法の1例として補助関数法(非特許文献3参照)による推定アルゴリズムを用いた場合を例に説明する。補助関数法では、目的関数Lの上界となる補助関数L+を利用する。 本発明の実施の形態のモデルにおける補助関数は
は要素yij ∈ (xL ij ; xR ij) が区間値が与えられた要素におけるスカラー値を表す潜在変数であり、 q(Y)が、Yの従う補助分布、S = {sijr}が
を満たす補助変数を表す。この補助関数はL+は次の2つの性質をもつ。
はそれぞれ確率分布q(Y)の1次と2次のモーメントに対応する。確率密度関数fが正規分布であるとき、q(Y)は切断正規分布であるのでこのモーメントは解析的に計算できる値である。確率密度関数fとして、q(Y)のモーメントを解析的に計算できない分布を用いる場合であっても、重点サンプリングや棄却法など乱数を用いた期待値計算の技法を用いることでq(Y)のモーメントを計算することができる。因子行列Aの更新式の右辺に注目すると、(I) 常に0 以上、かつ(II)
のとき右辺と左辺が一致し更新がとまることがわかる。式(11)-(15) に従いパラメタを更新することで目的関数の(局所) 最適解に到達することができる。
ステップ2) パラメタΘを推定する
ステップ3) パラメタΘを出力する
図3に示すように、本発明の実施の形態に係るデータ解析装置1は、CPU(Central Processing Unit)と、RAM(Random Access Memory)と、後述するデータ解析処理ルーチンを実行するためのプログラムを記憶したROM(Read Only Memory)とを備えたコンピュータで構成され、機能的には次に示すように構成されている。データ解析装置1は、区間値行列処理部10、パラメタ推定部20、パラメタ処理部30、記録部40、及び入出力部50を備えている。
に基づいて、因子行列Aを式(11)に従い更新する。この時更新前と更新後の因子行列Aの差の絶対値の最大値
がδより大きければ、
と更新する。なお記号「←」は右辺の計算結果を左辺の変数に代入する処理を意味する。また、更新前の因子行列Aの要素をaold ir 、 更新後の要素をanew irと記述した。
に基づいて、因子行列Bを式(12) に従い更新する。 この時更新前と更新後の因子行列B の差の絶対値の最大値
がδより大きければ、
と更新する。ただし更新前の因子行列Bの要素をbold jr 、更新後の要素をbnew jr と記述した。
パラメタ処理部30は、以下に説明するように、パラメタ記録部42を参照し、パラメタΘを出力する。
2 外部装置
10 区間値行列処理部
20 パラメタ推定部
30 パラメタ処理部
40 記録部
41 区間値行列記録部
42 パラメタ記録部
50 入出力部
Claims (6)
- 第1のオブジェクトi(1≦i≦I,Iは1以上の整数)と第2のオブジェクトj(1≦j≦J,Jは1以上の整数)との関係を表す要素xijを持つI×Jの行列であって、前記要素xijがスカラー値又は区間値である区間値行列Xを、前記第1のオブジェクトiと、因子r(1≦r≦R,Rは1以上の整数)との関係を表す要素airを持つI×Rの因子行列Aと、前記第2のオブジェクトjと、前記因子rとの関係を表す要素bjrを持つJ×Rの因子行列Bとに分解するデータ解析装置であって、
スカラー値である前記要素xijの各々についての、前記因子行列A及び前記因子行列Bから推定される前記要素xijの推定値を用いて表される、前記要素xijがそのスカラー値をとる確率と、
区間値である前記要素xijの各々についての、前記因子行列A及び前記因子行列Bから推定される前記要素xijの推定値を用いて表される、前記要素xijがその区間値をとる確率と、
を含んで表わされる目的関数を最適化するように、前記因子行列A及び前記因子行列Bを推定するパラメタ推定部
を含み、
前記パラメタ推定部は、
前記目的関数の上界関数である補助関数を小さくするように、前記因子行列A及び前記因子行列Bを更新することを、予め定められた反復終了条件を満たすまで繰り返すデータ解析装置。 - 前記要素xijがその区間値をとる確率は、
前記要素xijがその区間値の上限値以下の値をとる確率を示す累積密度関数と、
前記要素xijがその区間値の下限値以下の値をとる確率を示す累積密度関数と、の差で表される請求項1記載のデータ解析装置。 - 前記要素xijがそのスカラー値をとる確率は、正規分布の確率密度関数で表される請求項1又は2記載のデータ解析装置。
- 第1のオブジェクトi(1≦i≦I,Iは1以上の整数)と第2のオブジェクトj(1≦j≦J,Jは1以上の整数)との関係を表す要素xijを持つI×Jの行列であって、前記要素xijがスカラー値又は区間値である区間値行列Xを、前記第1のオブジェクトiと、因子r(1≦r≦R,Rは1以上の整数)との関係を表す要素airを持つI×Rの因子行列Aと、前記第2のオブジェクトjと、前記因子rとの関係を表す要素bjrを持つJ×Rの因子行列Bとに分解するデータ解析装置におけるデータ解析方法であって、
パラメタ推定部が、スカラー値である前記要素xijの各々についての、前記因子行列A及び前記因子行列Bから推定される前記要素xijの推定値を用いて表される、前記要素xijがそのスカラー値をとる確率と、
区間値である前記要素xijの各々についての、前記因子行列A及び前記因子行列Bから推定される前記要素xijの推定値を用いて表される、前記要素xijがその区間値をとる確率と、
を含んで表わされる目的関数を最適化するように、前記因子行列A及び前記因子行列Bを推定することを含み、
前記パラメタ推定部が推定することでは
前記目的関数の上界関数である補助関数を小さくするように、前記因子行列A及び前記因子行列Bを更新することを、予め定められた反復終了条件を満たすまで繰り返す
データ解析方法。 - 前記要素xijがその区間値をとる確率は、
前記要素xijがその区間値の上限値以下の値をとる確率を示す累積密度関数と、
前記要素xijがその区間値の下限値以下の値をとる確率を示す累積密度関数と、の差で表される請求項4記載のデータ解析方法。 - コンピュータを、請求項1~請求項3の何れか1項記載のデータ解析装置を構成する各部として機能させるためのプログラム。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018131626A JP7014069B2 (ja) | 2018-07-11 | 2018-07-11 | データ解析装置、方法、及びプログラム |
| PCT/JP2019/027368 WO2020013236A1 (ja) | 2018-07-11 | 2019-07-10 | データ解析装置、方法、及びプログラム |
| US17/259,133 US20210157879A1 (en) | 2018-07-11 | 2019-07-10 | Data analysis device, method, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018131626A JP7014069B2 (ja) | 2018-07-11 | 2018-07-11 | データ解析装置、方法、及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020009314A JP2020009314A (ja) | 2020-01-16 |
| JP7014069B2 true JP7014069B2 (ja) | 2022-02-01 |
Family
ID=69141769
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018131626A Active JP7014069B2 (ja) | 2018-07-11 | 2018-07-11 | データ解析装置、方法、及びプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20210157879A1 (ja) |
| JP (1) | JP7014069B2 (ja) |
| WO (1) | WO2020013236A1 (ja) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023073812A1 (ja) * | 2021-10-26 | 2023-05-04 | 日本電信電話株式会社 | データ解析装置、方法およびプログラム |
| WO2023073814A1 (ja) * | 2021-10-26 | 2023-05-04 | 日本電信電話株式会社 | データ解析装置、方法およびプログラム |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010039723A (ja) | 2008-08-04 | 2010-02-18 | Nippon Telegr & Teleph Corp <Ntt> | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 |
| JP2015135574A (ja) | 2014-01-16 | 2015-07-27 | 日本電信電話株式会社 | 時空間データ特徴量分類方法および装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6958085B2 (ja) * | 2017-08-02 | 2021-11-02 | 富士通株式会社 | 行列分解装置、行列分解方法及び行列分解プログラム |
-
2018
- 2018-07-11 JP JP2018131626A patent/JP7014069B2/ja active Active
-
2019
- 2019-07-10 WO PCT/JP2019/027368 patent/WO2020013236A1/ja not_active Ceased
- 2019-07-10 US US17/259,133 patent/US20210157879A1/en not_active Abandoned
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010039723A (ja) | 2008-08-04 | 2010-02-18 | Nippon Telegr & Teleph Corp <Ntt> | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 |
| JP2015135574A (ja) | 2014-01-16 | 2015-07-27 | 日本電信電話株式会社 | 時空間データ特徴量分類方法および装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20210157879A1 (en) | 2021-05-27 |
| WO2020013236A1 (ja) | 2020-01-16 |
| JP2020009314A (ja) | 2020-01-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Colbrook et al. | Rigorous data‐driven computation of spectral properties of Koopman operators for dynamical systems | |
| JP5362823B2 (ja) | 無限次元を用いた高速行列因子分解による推薦システム | |
| Jørgensen et al. | Exploiting the causal tensor network structure of quantum processes to efficiently simulate non-Markovian path integrals | |
| Vernade et al. | Linear bandits with stochastic delayed feedback | |
| KR102496415B1 (ko) | 양자 잡음 프로세스 분석 방법 및 장치, 디바이스, 및 저장 매체 | |
| Koop et al. | Bayesian dynamic variable selection in high dimensions | |
| US8140301B2 (en) | Method and system for causal modeling and outlier detection | |
| Winkelmann | Econometric analysis of count data | |
| Romero et al. | Learning hybrid Bayesian networks using mixtures of truncated exponentials | |
| Lacasa | On the degree distribution of horizontal visibility graphs associated with Markov processes and dynamical systems: diagrammatic and variational approaches | |
| JP6947108B2 (ja) | データ予測装置、方法、及びプログラム | |
| KR20220145007A (ko) | 텐서 스트림 데이터에서 손실, 이상치, 패턴을 검출 및 복구하는 데이터 처리 방법 | |
| AU2020326407A1 (en) | Extending finite rank deep kernel learning to forecasting over long time horizons | |
| JP7014069B2 (ja) | データ解析装置、方法、及びプログラム | |
| Collier et al. | Massively scaling heteroscedastic classifiers | |
| Amisigo et al. | Using a spatio-temporal dynamic state-space model with the EM algorithm to patch gaps in daily riverflow series | |
| Tanaka | Bayesian matrix completion approach to causal inference with panel data | |
| Duan et al. | Bayesian spanning tree: estimating the backbone of the dependence graph | |
| Boulin et al. | High-dimensional variable clustering based on maxima of a weakly dependent random process | |
| CN113037523A (zh) | 网络流量流向预测方法、装置以及存储介质 | |
| CN117495071A (zh) | 一种基于预测性日志增强的流程发现方法及系统 | |
| JP2019113962A (ja) | 解析装置、解析方法及びプログラム | |
| Chaudhary et al. | A community-driven graph partitioning method for constraint-based causal discovery | |
| CN105894136A (zh) | 一种品类库存量的预测方法和预测装置 | |
| Alvarez-Rodriguez et al. | Inference of time-ordered multibody interactions |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201029 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211005 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211105 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211221 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220103 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7014069 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |