JP6287101B2 - データ処理システム、データ処理方法及びプログラム - Google Patents
データ処理システム、データ処理方法及びプログラム Download PDFInfo
- Publication number
- JP6287101B2 JP6287101B2 JP2013240778A JP2013240778A JP6287101B2 JP 6287101 B2 JP6287101 B2 JP 6287101B2 JP 2013240778 A JP2013240778 A JP 2013240778A JP 2013240778 A JP2013240778 A JP 2013240778A JP 6287101 B2 JP6287101 B2 JP 6287101B2
- Authority
- JP
- Japan
- Prior art keywords
- input file
- input
- values
- data processing
- environmental condition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 114
- 238000003672 processing method Methods 0.000 title claims description 13
- 238000004458 analytical method Methods 0.000 claims description 93
- 230000007613 environmental effect Effects 0.000 claims description 90
- 238000000034 method Methods 0.000 claims description 21
- 238000004364 calculation method Methods 0.000 claims description 11
- 230000000694 effects Effects 0.000 claims description 3
- 238000005259 measurement Methods 0.000 description 14
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Debugging And Monitoring (AREA)
Description
<実施の形態1>
まず、図1を用いて、本発明の実施の形態1にかかるデータ処理システム100の構成について説明する。データ処理システム100は、処理対象データを記録した入力ファイルを入力し、当該データを対象とするソート処理を行うシステムである。
ここで、環境条件とは、ソート処理を実行する1以上の計算資源の特性、及びそれらの組合せをいう。環境条件としては、例えば、入力ファイルディレクトリ、出力ファイルディレクトリ、作業ファイル格納ディレクトリ、メモリ使用量、CPU使用個数、CPU使用量などがある。また、環境条件として、最大メモリ使用量、最大CPU使用個数、最大CPU使用量のように、一定の範囲をもちうる指標を指定しても良い。環境条件は、1つであってもよく、複数同時に指定されてもよい。
なお、必要に応じ、全ての実測結果を保存することとしても差し支えない。
A1:入力部1が分析部21に、入力ファイル条件として、「入力ファイルサイズ=1G、2G、3G」の3つのファイルを入力する。
入力ファイルサイズ 1GB、メモリ使用量 0GB、ソート時間10,000ms
入力ファイルサイズ 1GB、メモリ使用量 1GB、ソート時間4,000ms
入力ファイルサイズ 1GB、メモリ使用量 2GB、ソート時間4,500ms
入力ファイルサイズ 2GB、メモリ使用量 0GB、ソート時間20,000ms
入力ファイルサイズ 2GB、メモリ使用量 1GB、ソート時間15,000ms
入力ファイルサイズ 2GB、メモリ使用量 2GB、ソート時間5,000ms
入力ファイルサイズ 3GB、メモリ使用量 0GB、ソート時間35,000ms
入力ファイルサイズ 3GB、メモリ使用量 1GB、ソート時間20,000ms
入力ファイルサイズ 3GB、メモリ使用量 2GB、ソート時間6,000ms
入力ファイルサイズ 2GB、メモリ使用量 1GB、ソート時間15,000ms
入力ファイルサイズ 3GB、メモリ使用量 2GB、ソート時間6,000ms
実施の形態1では、学習段階において分析部21に入力される入力ファイル条件が、実際の入力ファイル、すなわちデータを含む入力ファイルである場合について説明した。実施の形態2では、学習段階において分析部21に入力される入力ファイル条件が、入力ファイルに関する条件のみである場合について説明する。すなわち、分析部21には、実際のデータを含む入力ファイルではなく、入力ファイルの属性(例えばサイズなど)のみが入力される。分析部21は、その条件に従って、自動的にダミーファイルを作成し、ダミーファイルを入力ファイルとしてソート処理を実行し、処理時間を実測する。
入力ファイル条件としては、入力ファイルに係る種々の属性が入力されうる。例えば、入力ファイル条件として、入力ファイルの数、サイズ、レコード数等を指定できる。
例えば、分析部21は、入力ファイル条件として、特定の入力ファイルサイズが指定されたなら、そのサイズのダミーファイルを生成する。また、入力ファイル条件として、入力ファイルサイズの範囲が指定されたなら、その範囲内で1以上の様々なサイズのダミーファイルを作成する。
ここで、分析部21は、環境条件として、特定の値でなく、値の取り得る一定の範囲が指定された場合は、その範囲内で1以上の様々な値の環境条件を作成することができる。例えば、最大メモリ使用量が指定されたなら、その範囲内で、様々なサイズのメモリ使用量を使用する。
C1:入力部1が分析部21に、入力ファイル条件として、「入力ファイル数=2」、「入力ファイルサイズ=1GB〜3GB」、「レコード数=100万〜300万件」を入力する。
例えば、以下のような複数のダミーファイルが生成される。
ダミーファイル名(ファイル数、ファイルサイズ、レコード数):
入力ファイル1(2、1G、100万)
入力ファイル2(2、1G、200万)
入力ファイル3(2、1G、300万)
入力ファイル4(2、2G、100万)
入力ファイル5(2、2G、200万)
入力ファイル6(2、2G、300万)
入力ファイル7(2、3G、100万)
入力ファイル8(2、3G、200万)
入力ファイル9(2、3G、300万)
例えば、以下のような組合せについて、それぞれソート処理時間が実測される。
(入力ファイル数、ファイルサイズ、レコード数、入力ファイルディレクトリ、出力ファイルディレクトリ、メモリ使用量):
(2、1GB、100万、A、C、0)
(2、1GB、100万、A、C、1G)
(2、1GB、100万、A、C、2G)
(2、1GB、100万、A、C、3G)
(2、1GB、100万、A、D、0)
(2、1GB、100万、A、D、1G)
・・・
(2、3GB、200万、B、D、2G)
(2、3GB、200万、B、D、3G)
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述の実施の形態では、主にソート処理を対象とした本発明を説明したが、本発明は単純なソート処理のみならず、ソート処理の必要なあらゆるバッチ処理等において採用可能である。
(付記1)
分析部とソート部とを含むデータ処理部と、
分析結果記憶部を含む記憶部と、を有し、
前記分析部は、
処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
前記試行結果を前記分析結果記憶部に記憶させ、
前記ソート部は、
前記入力ファイルを入力し、
前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
特定した前記環境条件を使用して、前記処理を実行する
データ処理システム。
(付記2)
前記分析部は、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
付記1記載のデータ処理システム。
(付記3)
前記分析部は、
前記入力ファイルに代えて、前記入力ファイルの属性を示す入力ファイル条件を入力し、前記入力ファイル条件に従って、前記入力ファイルを生成する
付記1又は2記載のデータ処理システム。
(付記4)
前記分析部は、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
付記1乃至3いずれか1以降記載のデータ処理システム。
(付記5)
前記分析部は、
前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
前記試行において、いずれかの前記値を使用した前記試行を行わない
付記1乃至4いずれか1以降記載のデータ処理システム。
(付記6)
処理対象データを含む1以上の入力ファイルと、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
前記入力ファイル及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
前記試行結果を分析結果記憶部に記憶させる、分析ステップと、
前記入力ファイルを入力し、
前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
特定した前記環境条件を使用して、前記処理を実行する、ソートステップと、を含む
データ処理方法。
(付記7)
前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
付記6記載のデータ処理方法。
(付記8)
前記分析ステップは、
前記入力ファイルに代えて、前記入力ファイルの属性を示す入力ファイル条件を入力し、前記入力ファイル条件に従って、前記入力ファイルを生成する
付記6又は7記載のデータ処理方法。
(付記9)
前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
付記6乃至8いずれか1以降記載のデータ処理方法。
(付記10)
前記分析ステップは、
前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
前記試行において、いずれかの前記値を使用した前記試行を行わない
付記6乃至9いずれか1以降記載のデータ処理方法。
(付記11)
コンピュータに、付記6乃至10いずれか1項記載の方法を実行させるためのプログラム。
1 入力部
2 データ処理部
21 分析部
22 ソート部
3 記憶部
31 分析結果記憶部
4 出力部
Claims (8)
- 分析部とソート部とを含むデータ処理部と、
分析結果記憶部を含む記憶部と、を有し、
前記分析部は、
処理対象データを含む入力ファイルの属性を示す1以上の入力ファイル条件と、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、
前記入力ファイル条件及び前記環境条件を網羅的に組み合わせて前記処理を試行し、
前記試行結果を前記分析結果記憶部に記憶させ、
前記ソート部は、
前記入力ファイルを入力し、
前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、
特定した前記環境条件を使用して、前記処理を実行する
データ処理システム。 - 前記分析部は、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
請求項1記載のデータ処理システム。 - 前記分析部は、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
請求項1又は2記載のデータ処理システム。 - 前記分析部は、
前記分析結果記憶部を参照して、選択可能な値の範囲を有する前記環境条件であって、前記範囲内において2以上の値が使用された場合、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない前記環境条件をあらかじめ特定し、
前記試行において、いずれかの前記値を使用した前記試行を行わない
請求項1乃至3いずれか1項記載のデータ処理システム。 - 分析部が、処理対象データを含む入力ファイルの属性を示す1以上の入力ファイル条件と、前記処理に使用可能な計算資源を示す1以上の環境条件と、を入力し、前記入力ファイル条件及び前記環境条件を網羅的に組み合わせて前記処理を試行し、前記試行結果を分析結果記憶部に記憶させる、分析ステップと、
ソート部が、前記入力ファイルを入力し、前記分析結果記憶部を参照して、前記入力ファイルに係る前記処理時間が最も短くなる前記環境条件を特定し、特定した前記環境条件を使用して、前記処理を実行する、ソートステップと、を含む
データ処理システムのデータ処理方法。 - 前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力された場合、前記範囲内において1以上の値を生成し、前記環境条件として使用する
請求項5記載のデータ処理方法。 - 前記分析ステップは、
前記環境条件として、選択可能な値の範囲が入力され、前記範囲内において2以上の値が使用される場合であって、前記値の一方を他方に変更することによって、前記処理時間に任意のしきい値以下の影響しか生じない場合、いずれかの前記値を使用した前記試行を行わない
請求項5又は6記載のデータ処理方法。 - コンピュータに、請求項5乃至7いずれか1項記載の方法を実行させるためのプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2013240778A JP6287101B2 (ja) | 2013-11-21 | 2013-11-21 | データ処理システム、データ処理方法及びプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2013240778A JP6287101B2 (ja) | 2013-11-21 | 2013-11-21 | データ処理システム、データ処理方法及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2015102887A JP2015102887A (ja) | 2015-06-04 |
| JP6287101B2 true JP6287101B2 (ja) | 2018-03-07 |
Family
ID=53378569
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2013240778A Active JP6287101B2 (ja) | 2013-11-21 | 2013-11-21 | データ処理システム、データ処理方法及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6287101B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6524875B2 (ja) * | 2015-09-30 | 2019-06-05 | 日本電気株式会社 | 処理設定検索装置、方法及びプログラム |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS6155735A (ja) * | 1984-08-27 | 1986-03-20 | Fujitsu Ltd | デ−タ処理装置の画面表示制御方式 |
| JPS61224034A (ja) * | 1985-03-29 | 1986-10-04 | Nec Corp | デ−タ分類装置 |
| JPH04259037A (ja) * | 1991-02-13 | 1992-09-14 | Omron Corp | ルール開発装置および方法ならびにファジィ推論装置および方法 |
| JPH05290016A (ja) * | 1992-04-13 | 1993-11-05 | Hitachi Ltd | シミュレーション方法およびシステム |
| JP3366257B2 (ja) * | 1998-07-07 | 2003-01-14 | エヌイーシーシステムテクノロジー株式会社 | データウェアハウステストデータ作成装置 |
| JP2000276449A (ja) * | 1999-03-26 | 2000-10-06 | Nec Software Chugoku Ltd | ジョブ起動方法及びシステム |
| JP2000293396A (ja) * | 1999-04-05 | 2000-10-20 | Toshiba Corp | システム性能見積もり方法及びシステム性能見積もり装置 |
| JP3694193B2 (ja) * | 1999-05-28 | 2005-09-14 | 富士通株式会社 | データベース検索装置及びプログラム記録媒体 |
| JP2005056201A (ja) * | 2003-08-05 | 2005-03-03 | Hitachi Software Eng Co Ltd | 異種混合計算機接続システム及びシステムにおける処理割り当て方法及び課金方法 |
-
2013
- 2013-11-21 JP JP2013240778A patent/JP6287101B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015102887A (ja) | 2015-06-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TWI718643B (zh) | 異常群體識別方法及裝置 | |
| CN106980623B (zh) | 一种数据模型的确定方法及装置 | |
| US10664445B2 (en) | Bloom filter generation method and apparatus | |
| CN102831127A (zh) | 重复数据处理方法、装置及系统 | |
| JP6313864B2 (ja) | ストリームデータの処理方法及びストリームデータ処理装置 | |
| WO2015026273A1 (en) | A method and system for analyzing accesses to a data storage type and recommending a change of storage type | |
| JP2021502658A5 (ja) | ||
| JP2014153961A (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
| CN103840969A (zh) | 云计算系统中告警日志的管理方法和系统 | |
| US20190362187A1 (en) | Training data creation method and training data creation apparatus | |
| CN110059712A (zh) | 异常数据的检测方法及装置 | |
| JP6287101B2 (ja) | データ処理システム、データ処理方法及びプログラム | |
| CN113297226B (zh) | 数据存储方法、数据读取方法、装置、电子设备及介质 | |
| US20180232353A1 (en) | Non-transitory computer-readable storage medium, record data processing method, and record data processing apparatus | |
| JP2015184965A (ja) | 仮想マシン管理装置、仮想マシン管理方法、及び仮想マシン管理システム | |
| JPWO2012081165A1 (ja) | データベース管理装置及びデータベース管理方法 | |
| JP5928446B2 (ja) | 情報検索システム、情報検索方法および情報検索プログラム | |
| US20140324868A1 (en) | Method for rapid data classification | |
| KR102491688B1 (ko) | 금융투자상품의 방향성 예측 모델링 방식을 결정하기 위한 전자 장치의 제어 방법 | |
| JP2022500714A (ja) | 大規模データ分析の最適化 | |
| US20190294637A1 (en) | Similar data search device, similar data search method, and recording medium | |
| JP6524875B2 (ja) | 処理設定検索装置、方法及びプログラム | |
| JP6015662B2 (ja) | 空間充填曲線処理システム、空間充填曲線処理方法およびプログラム | |
| JP5998835B2 (ja) | 情報処理装置及びプログラム | |
| JP6154933B1 (ja) | グループ化装置、グループ化方法及びコンピュータプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161007 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170705 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170711 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170905 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171107 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171214 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180109 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180122 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6287101 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |