Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6287101B2 - データ処理システム、データ処理方法及びプログラム - Google Patents
[go: Go Back, main page]

JP6287101B2 - データ処理システム、データ処理方法及びプログラム - Google Patents

データ処理システム、データ処理方法及びプログラム Download PDF

Info

Publication number
JP6287101B2
JP6287101B2 JP2013240778A JP2013240778A JP6287101B2 JP 6287101 B2 JP6287101 B2 JP 6287101B2 JP 2013240778 A JP2013240778 A JP 2013240778A JP 2013240778 A JP2013240778 A JP 2013240778A JP 6287101 B2 JP6287101 B2 JP 6287101B2
Authority
JP
Japan
Prior art keywords
input file
input
values
data processing
environmental condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013240778A
Other languages
English (en)
Other versions
JP2015102887A (ja
Inventor
仁志 小田
仁志 小田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2013240778A priority Critical patent/JP6287101B2/ja
Publication of JP2015102887A publication Critical patent/JP2015102887A/ja
Application granted granted Critical
Publication of JP6287101B2 publication Critical patent/JP6287101B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Debugging And Monitoring (AREA)

Description

本発明はデータ処理システム、データ処理方法及びプログラムに関し、具体的には、データ処理速度の高速化を図ることができるデータ処理技術に関する。
従来より、データ処理、代表的にはソート処理を高速化するための、様々な方策が提案されている。
例えば、特許文献1には、データ処理の動作時間を記録し、その記録を、データ処理アルゴリズム及びハードウェアが所期の性能を達成できているかどうかの分析に供することが記載されている。
また、特許文献2には、複数のデータ処理アルゴリズムを並行して実行させ、あるアルゴリズムが最も早く処理結果を導出したときにその処理結果を採用し、他のアルゴリズムによる処理を停止することが記載されている。
特許文献3には、ソート対象データの内容に応じて、複数のソート処理アルゴリズムを使い分けることが記載されている。
さらに、一般的な方策として、メモリを大量に使用し、さらに、IO(Input−Output)速度が高い補助記憶装置を使用するなどの方策が知られている。
特開平05−324412号公報 特開平06−131312号公報 特開2002−116907号公報
しかしながら、特許文献1乃至3記載の技術では、特定の入力データを処理するための最適な計算資源(使用可能なメモリ、二次記憶装置、CPU、計算アルゴリズムなど)、すなわちデータ処理速度が最速となるような入力データと計算資源との組合せを、データ処理実行前に知ることはできない。
したがって、ユーザは依然として、入力データや計算資源に関する諸条件、例えば使用メモリサイズ、入力ファイルや作業ファイルの保存場所やサイズ、データのレコード長の最大又は平均値、レコード件数などのパラメータを、試行錯誤しつつ調整することで、ソート速度の向上を図る必要があった。これには、ユーザに多大な手間と負担を強いるものであった。
また、ユーザが使用可能な環境(使用可能なメモリ、二次記憶装置、CPU、計算アルゴリズムなどの計算資源の組合せ)は常に同一であるとは限らず、ある環境では最適であった計算資源の組合せが、別の環境においても常に最適であるとは限らない。したがって、ユーザは環境ごとに、上述の煩わしい調整作業を行う必要があった。
さらに、上述のような、メモリを大量に使用し、さらに、IO(Input−Output)速度が高い補助記憶装置を使用するといった一般的な方策は、必ずしも有効に作用するばかりでなく、かえって動作を遅くする、すなわちデータ処理の完了までに要する時間を長びかせる場合もあった。例えば、処理対象のデータを記録した入力ファイルのサイズ、及びデータ処理中の一時的なデータ保存場所として用いる作業ファイルのサイズなどを超える、比較的大きなサイズのメモリを確保することで、かえって動作が遅くなる事例が観察されている。
また、たとえIO速度の高い補助記憶装置を使用したとしても、かえってデータ処理時間が長くなる場合がある。例えば、ファイルIOとメモリキャッシュとのバランスが最適でなく、必要以上にキャッシュサイズが大きいと、かえって動作が遅くなる事例が観察されている。
本発明は、このような問題点を解決するためになされたものであり、データ処理速度の高速化を図ることができるデータ処理システム、データ処理方法及びプログラムを提供することを目的とする。
その他の課題と新規な特徴は、本明細書の記述及び添付図面から明らかになるであろう。
本発明に係るデータ処理システムは、分析部とソート部とを含むデータ処理部と、分析結果記憶部を含む記憶部と、を有し、前記分析部は、処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、前記試行結果を前記分析結果記憶部に記憶させ、前記ソート部は、前記入力ファイルを入力し、前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、特定した前記環境条件を使用して、前記処理を実行するものである。
本発明に係るデータ処理方法は、処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、前記試行結果を分析結果記憶部に記憶させる、分析ステップと、前記入力ファイルを入力し、前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、特定した前記環境条件を使用して、前記処理を実行する、ソートステップと、を含むものである。
本発明に係るプログラムは、コンピュータに、上記方法を実行させるためのプログラムである。
本発明により、データ処理速度の高速化を図ることができるデータ処理システム、データ処理方法及びプログラムを提供することができる。
本発明の実施の形態のデータ処理システム100の構成を示す図である。 本発明の実施の形態1の処理を示す図である。 本発明の実施の形態1の構成を示す図である。 本発明の実施の形態2の処理を示す図である。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
<実施の形態1>
まず、図1を用いて、本発明の実施の形態1にかかるデータ処理システム100の構成について説明する。データ処理システム100は、処理対象データを記録した入力ファイルを入力し、当該データを対象とするソート処理を行うシステムである。
データ処理システム100は、キーボード等の入力部1と、プログラム制御により動作するデータ処理部2と、情報を記憶する記憶部3と、ディスプレイ装置や印刷装置等の出力部4と、を備えている。
データ処理部2は、学習用の入力ファイルを入力し、様々な計算資源の組合せ(以下、環境条件という)を用いてソート処理時間を実測して、その結果を蓄積する分析部21と、入力ファイルを入力し、最適な計算資源を用いてソート処理を実行するソート部22と、を備える。
記憶部3は、入力ファイルの条件と、最適な環境条件と、を対応付けて記憶する分析結果記憶部31を有する。
つづいて、図2及び図3のフローチャートを用いて、データ処理システム100の動作について説明する。
データ処理システム100は、図2に示す学習段階と、図3に示す実際の処理段階と、の2段階の動作を行う。図2のステップA1乃至A3は、高速なソート処理を提供するための諸条件を学習する段階である。図3のステップB1乃至B3は、その学習結果を利用して、最適なソート処理サービスを提供する段階である。
はじめに、学習段階に係る処理について説明する。
A1:入力部1は、入力ファイル条件を分析部21に入力する。
ここで、入力ファイルとは、ソート対象のデータが記録されているファイルをいう。また、入力ファイル条件とは、このファイルの特徴を示す要件をいう。入力ファイル条件としては、例えば、入力ファイルの数、サイズ、分割数、ファイル形式、レコード数、最大レコード長、平均レコード長、キーの数、同値キーの有無・偏り、データの並び、などがある。また、ディスク上の入力ファイル配置、作業ファイル配置・分割数、出力ファイル配置、使用ディスク、メモリ使用量、ソートアルゴリズムなどであってもよい。入力ファイル条件は、1つの要件だけが指定されてもよく、複数同時に指定されてもよい。
A2:入力部1は、環境条件を分析部21に入力する。
ここで、環境条件とは、ソート処理を実行する1以上の計算資源の特性、及びそれらの組合せをいう。環境条件としては、例えば、入力ファイルディレクトリ、出力ファイルディレクトリ、作業ファイル格納ディレクトリ、メモリ使用量、CPU使用個数、CPU使用量などがある。また、環境条件として、最大メモリ使用量、最大CPU使用個数、最大CPU使用量のように、一定の範囲をもちうる指標を指定しても良い。環境条件は、1つであってもよく、複数同時に指定されてもよい。
A3:分析部21は、入力された入力ファイル条件及び環境条件にしたがってソート時間を実測する。
ここで、入力ファイル条件又は環境条件として、複数の要件が指定されている場合、分析部21は、それら複数の要件それぞれを使用した場合について、それぞれ実際にソート処理を実行し、処理時間の計測を行う。
なお、環境条件として指標の範囲が特定されている場合、分析部21は、その指定された範囲内から複数の値をピックアップし、それぞれの値ごとにソート時間を実測することができる。例えば、環境条件として「最大メモリ使用可能量=3GB」が入力されたとき、分析部21は、メモリ使用量を0、1GB、2GB及び3GBとする、4回の実測を行うことができる。ここで、指定された範囲内から幾つの値をピックアップして実測するか、どのような値をピックアップするかは、計算資源の性質、計算に要する時間や計算量等に鑑みて、適宜決定することが可能である。一般に、この段階で、より多くの値を用いて実測を行っておくほど、後の工程において、より精度の高い結果を提供することが可能となる。
分析部21は、実測した結果を、分析結果として分析結果記憶部31に格納する。本実施の形態では、分析部21は、ある入力ファイル条件を使用したとき、最速となった環境条件のみを、その入力ファイル条件と紐付けて分析結果記憶部31に保存するものとする。これにより、分析結果記憶部31のサイズを抑えることができる。
なお、必要に応じ、全ての実測結果を保存することとしても差し支えない。
つづいて、学習結果を利用した処理段階について説明する。
B1:入力部1は、入力ファイル条件をソート部22に入力する。
B2:ソート部22は、入力された入力ファイル条件を処理するために最適な環境条件、すなわちソート時間が最速となるであろう環境条件を、分析結果記憶部31から取得する。つまり、ソート部22は、入力された入力ファイル条件をキーとして、分析結果記憶部31の記憶内容を検索し、その入力ファイル条件に対応付けられている環境条件を取得する。ここで、本実施の形態では、分析結果記憶部31において、入力ファイル条件に対応付けられて記憶されているのは、最適な環境条件1件のみであるものとする。
なお、分析結果記憶部31は、ある入力ファイル条件に紐付けて、最適の環境条件を含む、複数の環境条件を保存しておいても良い。この場合、ソート部22は、それらの中から、最も実測時間の短い環境条件を選択して取得することとなる。
B3:ソート部22は、ステップB2で取得した環境条件を使用して、ソート処理を実行する。すなわち、データ処理システム100が使用する計算資源(例えばメモリ量、CPU個数、CPU使用量の上限など)を、取得した環境条件と同じにセットする。その後、ソート処理を行う。
具体例を用いて、本実施例の動作についてさらに説明する。
A1:入力部1が分析部21に、入力ファイル条件として、「入力ファイルサイズ=1G、2G、3G」の3つのファイルを入力する。
A2:入力部1が分析部21に、環境条件として、「最大メモリ使用可能量=3GB」を指定し入力する。
A3:分析部21は、3つ入力ファイル条件それぞれについて、指定された環境条件を利用したソート処理を行い、処理時間を実測する。ここで、環境条件の「最大メモリ使用可能量」とは、固定値でなく、値のとり得る一定の範囲を特定するものである。そこで、分析部21は、この範囲内から1以上の値を指定し、ソート時間を実測する。この例では、メモリ使用量=0、1GB、2GB、3GBとした、計4パターンの環境条件を用いて実測を行うこととする。
すなわち、分析部21は、入力ファイルサイズ=1G、2G、3Gの3つのファイルそれぞれについて、メモリ使用量=0、1GB、2GB、3GBの4つの環境条件をそれぞれ使用した場合のソート速度を測定する。これにより、3つのファイルそれぞれについて4回分、計12の実測値が得られることになる。
例えば、以下のような実測値のセットが得られたものとする。
入力ファイルサイズ 1GB、メモリ使用量 0GB、ソート時間10,000ms
入力ファイルサイズ 1GB、メモリ使用量 1GB、ソート時間4,000ms
入力ファイルサイズ 1GB、メモリ使用量 2GB、ソート時間4,500ms
入力ファイルサイズ 2GB、メモリ使用量 0GB、ソート時間20,000ms
入力ファイルサイズ 2GB、メモリ使用量 1GB、ソート時間15,000ms
入力ファイルサイズ 2GB、メモリ使用量 2GB、ソート時間5,000ms
入力ファイルサイズ 3GB、メモリ使用量 0GB、ソート時間35,000ms
入力ファイルサイズ 3GB、メモリ使用量 1GB、ソート時間20,000ms
入力ファイルサイズ 3GB、メモリ使用量 2GB、ソート時間6,000ms
この後、分析部21は、各入力ファイル条件のそれぞれについて、最もソート速度が速かった環境条件を特定する。上記の例では、以下の組合せが特定される。
入力ファイルサイズ 1GB、メモリ使用量 1GB、ソート時間4,000ms
入力ファイルサイズ 2GB、メモリ使用量 1GB、ソート時間15,000ms
入力ファイルサイズ 3GB、メモリ使用量 2GB、ソート時間6,000ms
分析部21は、特定した入力ファイル条件と環境条件との組を、分析結果記憶部31に保存する。
B1:入力部1がソート部22に、入力ファイル条件として、「入力ファイルサイズ=2GB」のファイルを入力する。
B2:ソート部22は、分析結果記憶部31を参照し、「入力ファイルサイズ=2GB」に対応する環境条件「メモリ使用量=1GB」を取得する。
B3:取得した環境条件にしたがって、計算資源を予約する。すなわち、1GBのメモリを確保し、ソート処理を実行する。
本実施の形態によれば、分析部21が、様々な入力ファイル条件、環境条件における処理時間の実測を行い、入力ファイル条件と環境条件との最適な組み合わせを学習する。また、ソート部22が、入力ファイル条件が与えられたとき、学習結果を用いて、ソート時間が最短となるような環境条件を決定する。これにより、ソート部22は、そのコンピュータシステムにおいて最適な計算資源の組合せを、自動的に求めることができる。
また、使用するコンピュータシステムが複数ある場合、それぞれのコンピュータシステムにおいて分析部21を実行しておくことにより、それぞれのコンピュータシステムにおいて最適な計算資源の組合せを、自動的に求めることができる。
<実施の形態2>
実施の形態1では、学習段階において分析部21に入力される入力ファイル条件が、実際の入力ファイル、すなわちデータを含む入力ファイルである場合について説明した。実施の形態2では、学習段階において分析部21に入力される入力ファイル条件が、入力ファイルに関する条件のみである場合について説明する。すなわち、分析部21には、実際のデータを含む入力ファイルではなく、入力ファイルの属性(例えばサイズなど)のみが入力される。分析部21は、その条件に従って、自動的にダミーファイルを作成し、ダミーファイルを入力ファイルとしてソート処理を実行し、処理時間を実測する。
図4のフローチャートを用いて、実施の形態2にかかるデータ処理システム100の動作について説明する。ステップC1乃至C4は、実施の形態2にかかるデータ処理システム100の、学習段階の動作を示している。なお、実施の形態1と重複する処理については、特にことわりのない限り記載を省略する。また、この学習結果を用いた、実際のデータ処理に係る動作については、実施の形態1と同様である(図3、ステップB1乃至B3)ため、説明を省略する。
C1:入力部1が、分析部21に入力ファイル条件を入力する。
入力ファイル条件としては、入力ファイルに係る種々の属性が入力されうる。例えば、入力ファイル条件として、入力ファイルの数、サイズ、レコード数等を指定できる。
C2:分析部21が、入力ファイル条件に従ってダミー入力ファイルを作成する。
例えば、分析部21は、入力ファイル条件として、特定の入力ファイルサイズが指定されたなら、そのサイズのダミーファイルを生成する。また、入力ファイル条件として、入力ファイルサイズの範囲が指定されたなら、その範囲内で1以上の様々なサイズのダミーファイルを作成する。
C3:入力部1が、分析部21に環境条件を入力する。
C4:分析部21は、入力された入力ファイル条件、環境条件を用いてソート処理を実行し、処理時間を実測し、実測結果を分析結果記憶部31に記憶する。
ここで、分析部21は、環境条件として、特定の値でなく、値の取り得る一定の範囲が指定された場合は、その範囲内で1以上の様々な値の環境条件を作成することができる。例えば、最大メモリ使用量が指定されたなら、その範囲内で、様々なサイズのメモリ使用量を使用する。
具体例を用いて、本実施例の動作についてさらに説明する。
C1:入力部1が分析部21に、入力ファイル条件として、「入力ファイル数=2」、「入力ファイルサイズ=1GB〜3GB」、「レコード数=100万〜300万件」を入力する。
C2:分析部21は、入力ファイル条件に従ってダミー入力ファイルを生成する。
例えば、以下のような複数のダミーファイルが生成される。
ダミーファイル名(ファイル数、ファイルサイズ、レコード数):
入力ファイル1(2、1G、100万)
入力ファイル2(2、1G、200万)
入力ファイル3(2、1G、300万)
入力ファイル4(2、2G、100万)
入力ファイル5(2、2G、200万)
入力ファイル6(2、2G、300万)
入力ファイル7(2、3G、100万)
入力ファイル8(2、3G、200万)
入力ファイル9(2、3G、300万)
ここで、各ダミーファイルのファイルサイズ、レコード数の値は、入力ファイル条件として指定された範囲内で、分析部21がランダムに決定したものである。
C3:入力部1が分析部21に、環境情報として、「入力ファイルディレクトリ=AまたはB」、「出力ファイルディレクトリ=CまたはD」、「最大メモリ使用可能量=3GB」を入力する。
C4:分析部21は、入力ファイル条件と環境条件との組み合わせを網羅的に作成し、それぞれの組合せについてソート処理時間を実測する。
例えば、以下のような組合せについて、それぞれソート処理時間が実測される。
(入力ファイル数、ファイルサイズ、レコード数、入力ファイルディレクトリ、出力ファイルディレクトリ、メモリ使用量):
(2、1GB、100万、A、C、0)
(2、1GB、100万、A、C、1G)
(2、1GB、100万、A、C、2G)
(2、1GB、100万、A、C、3G)
(2、1GB、100万、A、D、0)
(2、1GB、100万、A、D、1G)
・・・
(2、3GB、200万、B、D、2G)
(2、3GB、200万、B、D、3G)
ここで、各組合せに含まれる環境条件は、環境条件として指定された範囲内で、分析部21がランダムに決定したものである。
分析部21は、各入力ファイル条件のそれぞれについて、最もソート時間が短かった環境条件を特定する。そして、分析部21は、その入力ファイル条件と特定された環境条件との組を、分析結果記憶部31に保存する。
なお、入力データ条件、環境条件の数が多くなるほど、また範囲指定のある指標が使用されるほど、最速の組み合わせを特定するまで多くの時間を要するようになる。
その場合、入力データ条件、環境条件を構成する個々の条件に重み付けをすることができる。すなわち、データ処理時間に対する影響が比較的少ない条件については、その条件を省略する。これにより、学習時間の短縮を図ることができる。
例えば、実施の形態2において示した具体例において、ステップC4にかかる実測処理が進行するにつれ、例えば環境条件の1つである「出力ファイルディレクトリ」について、これをC又はDのいずれに変更しても、処理時間が任意のしきい値(例えば5%)以上短縮されないことが分かった場合、それ以降の処理においては、「出力ファイルディレクトリ」指標はいずれか一方のみ、例えばCのみを採用することとし、Dについては実測を省略してもよい。
あるいは、過去の実測結果の蓄積から、変更しても処理時間が一定以上短縮されない指標が判明していれば、学習段階においてはその指標を変動させず、任意の値に固定することとしてもよい。これを実施するためには、過去の実測結果のうち、入力データ条件−環境条件の組合せを、最速のものだけでなく、他のものについても破棄せず蓄積しておくことが好ましい。これにより、蓄積した実測結果を分析し、処理時間に対する影響の小さい入力ファイル条件、環境条件を特定することができる。
本実施の形態によれば、分析部21が、入力ファイル条件に従って様々な入力ファイルを発生させるため、より多くのデータ構造、形式、サイズ等における実測パターンを、実施の形態1に比較して簡便に得ることができる。これにより、より高精度に、最短時間でのソート処理を提供することができる。
<その他の実施の形態>
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述の実施の形態では、主にソート処理を対象とした本発明を説明したが、本発明は単純なソート処理のみならず、ソート処理の必要なあらゆるバッチ処理等において採用可能である。
また、本発明は、ソート処理にとどまらず、入力されるデータの条件や計算資源の条件を調整することにより処理時間が左右される様々な情報処理、例えばマージ処理などにも適用することができる。
また、上述の実施の形態では、本発明を主にハードウェアの構成として説明したが、これに限定されるものではなく、任意の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。この場合、コンピュータプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
なお、本発明は以下のようにも表し得る。
(付記1)
分析部とソート部とを含むデータ処理部と、
分析結果記憶部を含む記憶部と、を有し、
前記分析部は、
処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
前記試行結果を前記分析結果記憶部に記憶させ、
前記ソート部は、
前記入力ファイルを入力し、
前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
特定した前記環境条件を使用して、前記処理を実行する
データ処理システム。
(付記2)
前記分析部は、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
付記1記載のデータ処理システム。
(付記3)
前記分析部は、
前記入力ファイルに代えて、前記入力ファイルの属性を示す入力ファイル条件を入力し、前記入力ファイル条件に従って、前記入力ファイルを生成する
付記1又は2記載のデータ処理システム。
(付記4)
前記分析部は、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
付記1乃至3いずれか1以降記載のデータ処理システム。
(付記5)
前記分析部は、
前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
前記試行において、いずれかの前記値を使用した前記試行を行わない
付記1乃至4いずれか1以降記載のデータ処理システム。
(付記6)
処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
前記試行結果を分析結果記憶部に記憶させる、分析ステップと、
前記入力ファイルを入力し、
前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
特定した前記環境条件を使用して、前記処理を実行する、ソートステップと、を含む
データ処理方法。
(付記7)
前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
付記6記載のデータ処理方法。
(付記8)
前記分析ステップは、
前記入力ファイルに代えて、前記入力ファイルの属性を示す入力ファイル条件を入力し、前記入力ファイル条件に従って、前記入力ファイルを生成する
付記6又は7記載のデータ処理方法。
(付記9)
前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
付記6乃至8いずれか1以降記載のデータ処理方法。
(付記10)
前記分析ステップは、
前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
前記試行において、いずれかの前記値を使用した前記試行を行わない
付記6乃至9いずれか1以降記載のデータ処理方法。
(付記11)
コンピュータに、付記6乃至10いずれか1項記載の方法を実行させるためのプログラム。
100 データ処理システム
1 入力部
2 データ処理部
21 分析部
22 ソート部
3 記憶部
31 分析結果記憶部
4 出力部

Claims (8)

  1. 分析部とソート部とを含むデータ処理部と、
    分析結果記憶部を含む記憶部と、を有し、
    前記分析部は、
    処理対象データを含む入力ファイルの属性を示す1以上の入力ファイル条件と、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
    前記入力ファイル条件及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
    前記試行結果を前記分析結果記憶部に記憶させ、
    前記ソート部は、
    前記入力ファイルを入力し、
    前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
    特定した前記環境条件を使用して、前記処理を実行する
    データ処理システム。
  2. 前記分析部は、
    前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
    請求項1記載のデータ処理システム。
  3. 前記分析部は、
    前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
    請求項1又は2記載のデータ処理システム。
  4. 前記分析部は、
    前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
    前記試行において、いずれかの前記値を使用した前記試行を行わない
    請求項1乃至いずれか1項記載のデータ処理システム。
  5. 分析部が、処理対象データを含む入力ファイルの属性を示す1以上の入力ファイル条件と、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、前記入力ファイル条件及び前記環境条件を網羅的に組み合わせて前記処理を試行し、前記試行結果を分析結果記憶部に記憶させる、分析ステップと、
    ソート部が、前記入力ファイルを入力し、前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、特定した前記環境条件を使用して、前記処理を実行する、ソートステップと、を含む
    データ処理システムのデータ処理方法。
  6. 前記分析ステップは、
    前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
    請求項記載のデータ処理方法。
  7. 前記分析ステップは、
    前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
    請求項5又は6記載のデータ処理方法。
  8. コンピュータに、請求項乃至いずれか1項記載の方法を実行させるためのプログラム。
JP2013240778A 2013-11-21 2013-11-21 データ処理システム、データ処理方法及びプログラム Active JP6287101B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013240778A JP6287101B2 (ja) 2013-11-21 2013-11-21 データ処理システム、データ処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013240778A JP6287101B2 (ja) 2013-11-21 2013-11-21 データ処理システム、データ処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015102887A JP2015102887A (ja) 2015-06-04
JP6287101B2 true JP6287101B2 (ja) 2018-03-07

Family

ID=53378569

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013240778A Active JP6287101B2 (ja) 2013-11-21 2013-11-21 データ処理システム、データ処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6287101B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6524875B2 (ja) * 2015-09-30 2019-06-05 日本電気株式会社 処理設定検索装置、方法及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6155735A (ja) * 1984-08-27 1986-03-20 Fujitsu Ltd デ−タ処理装置の画面表示制御方式
JPS61224034A (ja) * 1985-03-29 1986-10-04 Nec Corp デ−タ分類装置
JPH04259037A (ja) * 1991-02-13 1992-09-14 Omron Corp ルール開発装置および方法ならびにファジィ推論装置および方法
JPH05290016A (ja) * 1992-04-13 1993-11-05 Hitachi Ltd シミュレーション方法およびシステム
JP3366257B2 (ja) * 1998-07-07 2003-01-14 エヌイーシーシステムテクノロジー株式会社 データウェアハウステストデータ作成装置
JP2000276449A (ja) * 1999-03-26 2000-10-06 Nec Software Chugoku Ltd ジョブ起動方法及びシステム
JP2000293396A (ja) * 1999-04-05 2000-10-20 Toshiba Corp システム性能見積もり方法及びシステム性能見積もり装置
JP3694193B2 (ja) * 1999-05-28 2005-09-14 富士通株式会社 データベース検索装置及びプログラム記録媒体
JP2005056201A (ja) * 2003-08-05 2005-03-03 Hitachi Software Eng Co Ltd 異種混合計算機接続システム及びシステムにおける処理割り当て方法及び課金方法

Also Published As

Publication number Publication date
JP2015102887A (ja) 2015-06-04

Similar Documents

Publication Publication Date Title
TWI718643B (zh) 異常群體識別方法及裝置
CN106980623B (zh) 一种数据模型的确定方法及装置
US10664445B2 (en) Bloom filter generation method and apparatus
CN102831127A (zh) 重复数据处理方法、装置及系统
JP6313864B2 (ja) ストリームデータの処理方法及びストリームデータ処理装置
WO2015026273A1 (en) A method and system for analyzing accesses to a data storage type and recommending a change of storage type
JP2021502658A5 (ja)
JP2014153961A (ja) 情報処理装置、情報処理方法及び情報処理プログラム
CN103840969A (zh) 云计算系统中告警日志的管理方法和系统
US20190362187A1 (en) Training data creation method and training data creation apparatus
CN110059712A (zh) 异常数据的检测方法及装置
JP6287101B2 (ja) データ処理システム、データ処理方法及びプログラム
CN113297226B (zh) 数据存储方法、数据读取方法、装置、电子设备及介质
US20180232353A1 (en) Non-transitory computer-readable storage medium, record data processing method, and record data processing apparatus
JP2015184965A (ja) 仮想マシン管理装置、仮想マシン管理方法、及び仮想マシン管理システム
JPWO2012081165A1 (ja) データベース管理装置及びデータベース管理方法
JP5928446B2 (ja) 情報検索システム、情報検索方法および情報検索プログラム
US20140324868A1 (en) Method for rapid data classification
KR102491688B1 (ko) 금융투자상품의 방향성 예측 모델링 방식을 결정하기 위한 전자 장치의 제어 방법
JP2022500714A (ja) 大規模データ分析の最適化
US20190294637A1 (en) Similar data search device, similar data search method, and recording medium
JP6524875B2 (ja) 処理設定検索装置、方法及びプログラム
JP6015662B2 (ja) 空間充填曲線処理システム、空間充填曲線処理方法およびプログラム
JP5998835B2 (ja) 情報処理装置及びプログラム
JP6154933B1 (ja) グループ化装置、グループ化方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171107

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180122

R150 Certificate of patent or registration of utility model

Ref document number: 6287101

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150