Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7665672B2 - データ処理システム、データ処理方法、及びデータ処理プログラム - Google Patents
[go: Go Back, main page]

JP7665672B2 - データ処理システム、データ処理方法、及びデータ処理プログラム - Google Patents

データ処理システム、データ処理方法、及びデータ処理プログラム Download PDF

Info

Publication number
JP7665672B2
JP7665672B2 JP2023065236A JP2023065236A JP7665672B2 JP 7665672 B2 JP7665672 B2 JP 7665672B2 JP 2023065236 A JP2023065236 A JP 2023065236A JP 2023065236 A JP2023065236 A JP 2023065236A JP 7665672 B2 JP7665672 B2 JP 7665672B2
Authority
JP
Japan
Prior art keywords
data
buffer
time
stored
loss
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023065236A
Other languages
English (en)
Other versions
JP2024151689A (ja
Inventor
義裕 二星
信一郎 齊藤
拓哉 羽原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2023065236A priority Critical patent/JP7665672B2/ja
Priority to US18/584,685 priority patent/US12566653B2/en
Publication of JP2024151689A publication Critical patent/JP2024151689A/ja
Application granted granted Critical
Publication of JP7665672B2 publication Critical patent/JP7665672B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766Error or fault reporting or storing
    • G06F11/0772Means for error signaling, e.g. using interrupts, exception flags, dedicated error registers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0823Errors, e.g. transmission errors
    • H04L43/0829Packet loss
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0793Remedial or corrective actions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Description

本発明は、データソースのデータをデータ格納先に登録する技術に関する。
現場等で生成されたデータをデータベース等のデータ格納先に登録し、データ格納先に格納されたデータを用いて可視化、分析等の処理が行われている。
例えば、生成されたデータを受け取って、データ登録先に登録する処理を実行する処理装置において、データが到着するたびに逐次的にデータをデータ登録先に登録する処理を行うようにすると、データ登録先への登録処理におけるオーバヘッドが大きくなる。このため、処理装置の性能(例えば、バッファのサイズ等)によっては、データ登録先への登録処理の影響により、到着したデータをバッファに格納できないデータ損失(データロスト)が発生する虞がある。
これに対して、例えば、所定の時間(溜め込み時間)内に到着したデータを集約してデータ登録先に登録するようにして、データ登録先への登録処理の効率を向上してデータロストを防ぐ技術が知られている。
しかしながら、溜め込み時間が長すぎると、データ登録先へのデータの格納に長期間を要し、データ登録先のデータを利活用するデータ利活用先での処理におけるリアルタイム性が損なわれてしまう虞がある。
例えば、特許文献1には、時間的制約があって管理が厳しいストリームデータを処理する技術として、ストリームデータと、非ストリームデータを処理する装置において、パラメータを備えたリクエストに対して2種類の待ち行列と、パラメータによってリクエスト実行順番を計画する処理と、待ち行列をスキャンし最適なリクエストを実行する処理を持つことによりリクエスト実行順番を処理が最適化されるようにリアルタイムに切り替える技術が開示されている。
特開2001-142649号公報
上記したように、溜め込み時間が長すぎると、データ登録先へのデータの格納に長期間を要し、データ登録先のデータを利活用するデータ利活用先での処理におけるリアルタイム性が損なわれてしまう虞があるが、溜め込み時間をどのように設定するについての技術は知られていない。
本発明は、上記事情に鑑みなされたものであり、その目的は、データ登録先へ登録するデータの溜め込み時間を容易且つ適切に設定することのできる技術を提供することにある。
上記目的を達成するため、一観点に係るデータ処理システムは、データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理を実行するデータ処理システムであって、前記データ処理システムは、1以上のプロセッサを含み、前記プロセッサは、前記データ格納先のデータを参照する参照周期を受け付け、前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する。
本発明によれば、データ登録先へ登録するデータの溜め込み時間を容易且つ適切に設定することができる。
図1は、第1実施形態に係る情報処理システムの全体構成図である。 図2は、第1実施形態に係るリスト表の構成図である。 図3は、第1実施形態に係る設定画面の構成図である。 図4は、第1実施形態に係る溜め込み時間設定処理のフローチャートである。 図5は、第1実施形態に係るリスト表の状態の一例を示す図である。 図6は、第1実施形態に係るリスト表の状態の他の例を示す図である。 図7は、第1実施形態に係るデータ処理システムのハードウェア構成図である。 図8は、第2実施形態に係るデータ処理システムの機能構成図である。 図9は、第2実施形態に係るリスト表の構成図である。 図10は、第2実施形態に係る溜め込み時間設定処理のフローチャートである。 図11は、変形例にかかるデータ処理システムの構成図である。
実施形態について、図面を参照して説明する。なお、以下に説明する実施形態は特許請求の範囲に係る発明を限定するものではなく、また実施形態の中で説明されている諸要素及びその組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、第1実施形態に係る情報処理システムの全体構成図である。
情報処理システム10は、データソースデバイス11と、データ処理システム20と、データ蓄積装置12と、データ利活用装置13とを含む。データソースデバイス11と、データ処理システム20とは、ネットワーク15を介して接続されている。
データソースデバイス11は、データ蓄積装置12に蓄積するデータのソースとなるデバイスである。データソースデバイス11は、例えば、各種状態を検出するセンサを含んでもよい。データソースデバイス11は、データ処理システム20に逐次データを送信する。
データ蓄積装置12は、データ格納先の一例であり、例えば、データベースであり、データソースデバイス11のデータを利用可能に蓄積する。
データ利活用装置13は、データ蓄積装置12に蓄積されたデータを参照して、各種処理を実行する。例えば、データ利活用装置13は、処理に必要なデータを所定の参照周期(例えば、5秒)で参照して処理を実行する。
データ処理システム20は、データソースデバイス11から送信されるデータをデータ蓄積装置12に格納する処理を実行する。
データ処理システム20は、データ受付部21と、データ出力部22と、溜め込み時間決定処理部23とを含む。データ受付部21は、データソースデバイス11から送信されたデータ(格納対象データ)を受け付けてバッファに格納する処理を行う。データ出力部22は、データを送信するまでに溜め込んでおく時間(溜め込み時間)の設定に従ってバッファに格納されたデータをデータ蓄積装置12に送信する。
溜め込み時間決定処理部23は、データ出力部22におけるデータの溜め込み時間を決定する溜め込み時間決定処理(図4参照)を実行する機能部であり、処理部30と、設定部40とを含む。
設定部40は、優先度設定部41と、テストデータ設定部42と、再設定部43とを含む。優先度設定部41は、後述する設定画面100(図3参照)への設定に従って、パラメータ調整部33に溜め込み時間決定処理における優先度を設定する。テストデータ設定部42は、設定画面100への設定に従って、テストデータ生成部34により生成するテストデータの設定を行う。再設定部43は、溜め込み時間の再設定が設定されている場合に、溜め込み時間決定処理を再度実行させる処理を行う。
処理部30は、ロス検出部31と、スループット検出部32と、パラメータ調整部33と、テストデータ生成部34と、を含む。ロス検出部31は、データ受付部21によるデータソースデバイス11からのデータをバッファに格納できないデータロスの発生を検出する。スループット検出部32は、データ出力部22によるデータ蓄積装置12へのデータの格納におけるスループットを検出する。パラメータ調整部33は、データ出力部22におけるパラメータ(データの溜め込み時間)を調整するための溜め込み時間決定処理を実行する。テストデータ生成部34は、テストデータの設定に従って溜め込み時間設定処理に使用するテストデータを生成してデータ受付部21に渡す処理を行う。
次に、溜め込み時間決定処理において、生成されるリスト表について説明する。
図2は、第1実施形態に係るリスト表の構成図である。
リスト表50は、溜め込み時間設定処理におけるテストで使用した溜め込み時間(候補溜め込み時間)毎のエントリを含む。リスト表50のエントリは、溜め込み時間51と、スループット値52と、データロス有/無53とのフィールドを含む。溜め込み時間51には、エントリに対応する候補溜め込み時間が格納される。スループット値52には、エントリに対応する候補溜め込み時間とした場合のデータ出力部22によるスループットが格納される。データロス有/無53には、エントリに対応する候補溜め込み時間とした場合におけるデータ受付部21でのデータロスの発生の有無が格納される。
次に、設定画面100について説明する。
図3は、第1実施形態に係る設定画面の構成図である。
設定画面100は、溜め込み時間決定処理に必要な各種情報を設定するとともに、溜め込み時間決定処理による実行結果を表示するための画面であり、データ処理プログラムを実行する後述するプロセッサ81により、例えば、データ処理システム20に接続されたディスプレイ等の表示装置や、データ処理システム20にネットワークを介して接続された情報処理装置の表示装置に表示される。
設定画面100は、優先度設定領域110と、テストデータ設定領域120と、自動再設定領域130と、テスト開始ボタン140と、実行結果領域150とを含む。
優先度設定領域110は、優先度ボタン表示領域111と、参照周期設定領域112とを含む。優先度ボタン表示領域111は、溜め込み時間を設定するための優先度の設定を行う領域であり、データソースデバイス11から送信されるデータの損失の回避(データ損失回避)を優先するのか、又はデータ利活用装置におけるデータを使用するアプリケーションの性能(アプリ側性能)を優先するのかを選択するためのラジオボタンが表示される。参照周期設定領域112は、アプリ側性能を優先する場合のアプリケーションにおけるデータ蓄積装置のデータに対する参照周期を設定する領域である。
テストデータ設定領域120は、テストデータ生成量設定領域121と、テストデータサイズ設定領域122とを含む。テストデータ生成量設定領域121は、データソースデバイス11から到達するデータを模擬するテストデータの単位時間当たりのデータの数(件数)を設定する領域である。テストデータサイズ設定領域122は、テストデータのサイズを設定する領域である。
自動再設定領域130は、溜め込み時間を自動で再設定するか否かを設定するラジオボタンが表示される領域である。
テスト開始ボタン140は、テストデータを利用しての溜め込み時間設定処理を開始させる指示を行うボタンであり、テスト開始ボタン140が押下されると、溜め込み時間設定処理が開始される。
実行結果領域150は、溜め込み時間表示領域151と、スループット値表示領域152とを含む。溜め込み時間表示領域151は、溜め込み時間設定処理により設定された溜め込み時間を表示する領域である。スループット値表示領域152は、溜め込み時間設定処理により設定された溜め込み時間とした場合におけるデータ蓄積装置12にデータを格納する際のスループットの値が表示される領域である。
次に、データ処理システム20による処理動作について説明する。
図4は、第1実施形態に係る溜め込み時間設定処理のフローチャートである。
溜め込み時間設定処理は、例えば、設定画面100において、テスト開始ボタン140が押下された場合、又はパラメータ調整部33に自動再設定が設定され、決定した溜め込み時間を用いて処理を開始した後に、ロス検出部31によりデータロスが所定の頻度以上発生したことを検出した場合に実行される。
まず、設定部40は、設定画面100に設定された各種要件を取得し、取得した要件に従って処理部30の設定を行う(S11)。具体的には、優先度設定部41は、設定画面100に設定された優先度をパラメータ調整部33に設定し、テストデータ設定部42は、設定画面に設定されたテストデータの要件をテストデータ生成部34に設定し、再設定部43は、設定画面100に自動再設定が設定されている場合には、パラメータ調整部33に自動再設定を設定する。
次いで、パラメータ調整部33は、アプリ側性能を優先として設定されているか否かを判定する(S12)。
この結果、アプリ側性能を優先として設定されている場合(S12:Yes)には、パラメータ調整部33は、データ出力部22における溜め込み時間を設定画面のデータ参照周期に設定し(S13)、処理をステップS15に進める。
一方、アプリ側性能を優先として設定されていない場合(S12:No)には、パラメータ調整部33は、データ出力部22における溜め込み時間を0秒に設定し(S14)、処理をステップS15に進める。
ステップS15では、パラメータ調整部33は、テストデータ生成部34にテストデータの設定内容に従ってテストデータの生成を開始させる。
次いで、パラメータ調整部33は、テストデータ生成部34に一定時間テストデータを生成させてデータ受付部21に送信させる(S16)。これにより、データ受付部21は送信されたデータを受け付けてバッファに格納する処理を実行し、データ出力部22は設定された溜め込み時間に従ってバッファのデータをデータ蓄積装置12に出力する処理を実行することとなる。
このようにデータ受付部21及びデータ出力部22が処理を行っている際には、ロス検出部31は、データ受付部21におけるデータロスの発生の有無を検出してパラメータ調整部33に通知し、スループット検出部32は、データ出力部22によるスループットを検出してパラメータ調整部33に通知する。
次いで、パラメータ調整部33は、テストデータを使ってのテスト結果、すなわち、設定されている溜め込み時間、スループット、データロスの有無の情報をリスト表50に登録する(S17)。
次いで、パラメータ調整部33は、アプリ側性能を優先として設定されているか否かを判定し(S18)、アプリ側性能を優先として設定されている場合(S18:Yes)には、処理をステップS19に進める一方、アプリ側性能を優先として設定されていない場合(S18:No)には、処理をステップS20に進める。
ステップS19では、パラメータ調整部33は、溜め込み時間が0以下を満たしているか否かを判定し、満たしている場合(S19:Yes)には、リスト表50からデータロスがない溜め込み時間の中のいずれかを、実際に使用する溜め込み時間と決定してデータ出力部22に設定し(S22)、処理を終了する。ここで、実際に使用する溜め込み時間としては、アプリ側性能を優先として設定されている場合には、例えば、最短の溜め込み時間としてもよく、データロスがない溜め込み時間がない場合には、最長の溜め込み時間(参照周期と同じ時間)としてもよい。また、パラメータ調整部33は、決定した溜め込み時間を設定画面100の実行結果領域150に表示させるようにしてもよい。
一方、溜め込み時間が0以下を満たしていない場合(S19:No)には、パラメータ調整部33は、処理をステップS21に進める。
ステップS20では、パラメータ調整部33は、データロスが発生したか否かを判定し、データロスが発生していない場合(S20:No)には、処理をステップS22に進める一方、データロスが発生している場合(S20:Yes)には、データ出力部22に設定されている溜め込み時間を加算(例えば、+1)して設定をし(S23)、処理をステップS15に進める。
ステップS21では、パラメータ調整部33は、データロスが発生したか否かを判定し、データロスが発生していない場合(S21:No)には、データ出力部22に設定されている溜め込み時間を減算(例えば、-1)して設定をし(S24)、処理をステップS15に進める一方、データロスが発生している場合(S21:Yes)には、処理をステップS22に進める。
次に、溜め込み時間設定処理が行われた場合のリスト表のいくつかの例と、それぞれの場合に決定される溜め込み時間について図2,図5,図6を参照して説明する。図5は、第1実施形態に係るリスト表の状態の一例を示す図であり、図6は、第1実施形態に係るリスト表の状態の他の例を示す図である。
図2のリスト表は、アプリ側性能を優先する設定がされ、参照時間が7秒に設定されている場合の例であり、図5のリスト表は、アプリ側性能を優先する設定がされ、参照時間が2秒に設定されている場合の例であり、図6のリスト表は、アプリ側性能を優先する設定がされていない場合、すなわち、データ損失回避を優先する設定がされている場合の例である。
アプリ側性能を優先する設定がされ、参照時間が7秒に設定されている場合には、溜め込み時間設定処理により、図2に示すように、溜め込み時間が参照時間の7秒からデータロスが発生した時間である4秒までのエントリがリスト表50に格納される。この場合には、例えば、データロスが発生していない最短の溜め込み時間である5秒が使用する溜め込み時間として決定される。これにより、データロスを発生させることなく、データ利活用装置13での参照時間以下の溜め込み時間でデータ蓄積装置12にデータを格納することができ、データ利活用装置13でのリアルタイム性を適切に維持することができる。
また、アプリ側性能を優先する設定がされ、参照時間が2秒に設定されている場合には、溜め込み時間設定処理により、図5に示すように、溜め込み時間が参照時間の2秒から処理が開始されるが、データロスが発生するので、溜め込み時間が2秒のエントリのみがリスト表50に格納される。この場合には、参照時間と同じ時間である2秒が使用する溜め込み時間として決定される。これにより、データロスは発生してしまうが、データ利活用装置13での参照時間と同じ溜め込み時間でデータ蓄積装置12にデータを格納することができ、データ利活用装置13でのリアルタイム性を損なうことを抑制することができる。
また、アプリ側性能を優先する設定がされていない場合には、溜め込み時間設定処理により、図6に示すように、溜め込み時間が0秒から処理が開始され、データロスが発生しなくなる時間である5秒までのエントリがリスト表50に格納される。この場合には、データロスが発生していない最短の時間である5秒が使用する溜め込み時間として決定される。これにより、データロスを発生させることなくデータ蓄積装置12にデータを格納することができる。
次にデータ処理システム20のハードウェア構成の一例について説明する。
図7は、第1実施形態に係るデータ処理システムのハードウェア構成図である。
データ処理システム20は、例えば、PC(Personal Computer)や汎用サーバ等のコンピュータであり、プロセッサ81と、主記憶装置82と、副記憶装置83と、ネットワークインターフェース(NW IF)84と、を含む。
NW IF84は、例えば、有線LANカードや無線LANカードなどのインターフェースであり、ネットワーク15等を介して、他の装置(データソースデバイス11、データ蓄積装置12等)と通信する。
プロセッサ81は、例えば、CPU(Central Processing Unit)であり、主記憶装置82及び/又は副記憶装置83に格納されているプログラムに従って各種処理を実行する。
主記憶装置82は、例えば、RAM(RANDOM ACCESS MEMORY)であり、プロセッサ81で実行されるプログラムや、必要な情報(例えば、リスト表50)を記憶する。また、主記憶装置82は、例えば、データソースデバイス11から受信したデータのバッファとして使用されてもよい。
副記憶装置83は、例えば、ハードディスクやフラッシュメモリなどであり、プロセッサ81で実行されるプログラムや、プロセッサ81に利用されるデータを記憶する。本実施形態では、副記憶装置83は、溜め込み時間決定処理を実行するデータ処理プログラムを記憶する。
本実施形態では、例えば、データ処理プログラムをプロセッサ81が実行することにより、データ受付部21、データ出力部22、処理部30、及び設定部40が構成される。
次に、第2実施形態に係るデータ処理システムについて説明する。
図8は、第2実施形態に係るデータ処理システムの機能構成図である。なお、図8において、第1実施形態に係るデータ処理システム20と同様な部分には、同一符号を付すこととする。
第2実施形態に係るデータ処理システム20Aは、処理部30に代えて処理部30Aを備える。処理部30Aは、処理部30に対して、新たにシェーピング部35を備えるとともに、パラメータ調整部33に代えてパラメータ調整部33Aを備えている。
シェーピング部35は、所定の透過率に従って、入力されるデータを間引く間引き処理(シェーピング処理)を行う。シェーピング部35は、通常時には、データソースデバイス11から受信したデータに対してシェーピング処理を行ったデータ(格納対象データ)をデータ受付部21に入力し、テスト時(溜め込み時間決定処理時)においては、テストデータ生成部34により生成されたデータについてシェーピング処理を行ったデータ(格納対象データ)をデータ受付部21に入力する。
パラメータ調整部33Aは、パラメータ調整部33による溜め込み時間設定処理に対して、シェーピング部35に設定する透過率を調整する処理を加えた溜め込み時間設定処理(図10参照)を実行する。
次に、溜め込み時間決定処理において、生成されるリスト表について説明する。
図9は、第2実施形態に係るリスト表の構成図である。なお、図2に示すリスト表50と同様な部分には同一の符号を付している。
リスト表60は、テストに使用した溜め込み時間(候補溜め込み時間)毎のエントリを含む。リスト表60のエントリは、溜め込み時間51と、スループット値52と、データロス有/無53と、データ透過率54とのフィールドを含む。データ透過率54には、入力されたデータをシェーピング部35がシェーピング処理をしてデータ受付部21に入力させる割合(データ透過率)が格納される。
次に、データ処理システム20Aによる処理動作について説明する。
図10は、第2実施形態に係る溜め込み時間設定処理のフローチャートである。なお、図4に示す第1実施形態に係る溜め込み時間設定処理と同様な処理ステップには、同一の符号を付し、重複する説明を省略する場合がある。
ステップS13を行った後、パラメータ調整部33Aは、探索フラグをOFFに設定し(S31)、シェーピング部35のデータ透過率を100%に設定し(S32)、溜め込み時間固定フラグをOFFに設定し(S33)、処理をステップS15に進める。ここで、探索フラグは、データロスが発生していない溜め込み時間を検出したか否かを示し、溜め込み時間固定フラグは、溜め込み時間を変更するか否かを示す。
ステップS21において、データロスが発生していない場合(S21:No)には、処理をステップS34に進める一方、データロスが発生している場合(S21:Yes)には、処理をステップS35に進める。
ステップS34では、パラメータ調整部33Aは、溜め込み時間固定フラグがOFFか否かを判定する。溜め込み時間固定フラグがOFFでない場合(S34:No)には、パラメータ調整部33Aは、溜め込み時間を変更しないことを意味しているので、処理をステップS22に進める。
一方、溜め込み時間固定フラグがOFFである場合(S34:Yes)には、パラメータ調整部33Aは、データ出力部22に設定されている溜め込み時間を減算(例えば、-1)して設定をし(S36)、探索フラグをONに設定し(S37)、処理をステップS15に進める。
ステップS35では、パラメータ調整部33Aは、探索フラグがOFFか否かを判定する。この結果、探索フラグがOFFでない場合(S35:No)には、データロスが発生しなかった溜め込み時間を既に探索していることを意味しているので、パラメータ調整部33Aは、処理をステップS22に進める。
一方、探索フラグがOFFである場合(S35:Yes)には、パラメータ調整部33Aは、溜め込み時間が参照周期と同じ場合においてデータロスが発生し、データ透過率を変更しないとデータロスの発生を防ぐことができないことを意味しているので、パラメータ調整部33Aは、溜め込み時間固定フラグをONに設定し(S38)、データ透過率を減算(例えば、-10%)してシェーピング部35に設定し(S39)、処理をステップS15に進める。
次に、溜め込み時間設定処理が行われた場合のリスト表の例と、その場合に決定される溜め込み時間及びデータ透過率について図9を参照して説明する。
図9のリスト表は、アプリ側性能を優先する設定がされ、参照時間が2秒に設定されている場合の例である。
アプリ側性能を優先する設定がされ、参照時間が2秒に設定されている場合には、溜め込み時間設定処理により、図9に示すように、溜め込み時間が参照時間の2秒のみのエントリがリスト表60に格納される。そして、データ透過率54には、データロスが発生しなくなるまで減算されたデータ透過率(図9の例では、50%)が格納される。この場合には、参照時間と同じ溜め込み時間である2秒が使用する溜め込み時間として決定され、シェーピング部35は、データ透過率が50%に設定される。これにより、溜め込み時間を参照時間としつつ、データロスが発生しないデータ透過率として、データ蓄積装置12にデータを格納することができる。この場合には、データソースデバイス11からのデータの一部は、シェーピングされてしまうが、シェーピングされた後の最新のデータについては、参照時間毎にデータ蓄積装置12に格納することができるので、データ利活用装置13でのリアルタイム性を適切に維持することができる。
次に、変形例に係るデータ処理システムについて説明する。
図11は、変形例に係るデータ処理システムの構成図である。なお、図1に示すデータ処理システムと同様な機能部については、同一の符号を付している。
変形例に係るデータ処理システム20Bは、ネットワーク75を介して接続されたゲートウェイ71とサーバ70とを含む。
ゲートウェイ71は、データ受付部72と、データ出力部73と、テストデータ生成部74とを含む。
データ受付部72は、データソースデバイス11から送信されたデータを受け付けてゲートウェイ1内のバッファ(第1バッファ)に格納する処理を行う。データ出力部73は、データを送信するまでに溜め込んでおく時間(溜め込み時間)の設定に従ってバッファに格納されたデータをサーバ70に送信する。テストデータ生成部74は、テストデータの設定に従ってテストデータを生成してデータ受付部72に渡す処理を行う。
サーバ70は、データ受付部21と、データ出力部22と、処理部30Bと、設定部40とを含む。なお、データ受付部21は、データソースデバイス11ではなく、ゲートウェイ71から送信されたデータを受け付けてバッファ(第2バッファ)に格納する処理を行う。
処理部30Bは、ロス検出部31Bと、スループット検出部32Bと、パラメータ調整部33Bとを含む。ロス検出部31Bは、データ受付部21及びデータ受付部72による入力されたデータをバッファに格納できないデータロスの発生を検出する。スループット検出部32Bは、データ出力部22及びデータ出力部73によるデータ出力におけるスループットを検出する。パラメータ調整部33Bは、データ出力部22及びデータ出力部73のそれぞれにおけるパラメータ(データの溜め込み時間)を調整するための溜め込み時間決定処理を実行する。なお、溜め込み時間決定処理は、図4に示す溜め込み時間決定処理と同様な処理を、ゲートウェイ71と、サーバ70とのそれぞれについて行う。
このデータ処理システム20Bによると、ゲートウェイ71からサーバ70へ出力されるデータについての溜め込み時間も適切に決定することができる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で、適宜変形して実施することが可能である。
例えば、上記実施形態では、溜め込み時間設定処理において、テストデータを入力して溜め込み時間を決定するようにしていたが、本発明はこれに限られず、例えば、データソースデバイスからの実際のデータを入力して溜め込み時間を決定するようにしもよい。
また、上記実施形態において、プロセッサが行っていた処理の一部又は全部を、専用のハードウェア回路で行うようにしてもよい。また、上記実施形態におけるプログラムは、プログラムソースからインストールされてよい。プログラムソースは、プログラム配布サーバ又は記録メディア(例えば可搬型の記録メディア)であってもよい。
10…情報処理システム、11…データソースデバイス、12…データ蓄積装置、13…データ利活用装置、20,20A,20B…データ処理システム、21…データ受付部、22…データ出力部、23…溜め込み時間決定処理部、30…処理部、31…ロス検出部、32…スループット検出部、33…パラメータ調整部、34…テストデータ生成部、40…設定部、41…優先度設定部、42…テストデータ設定部、43…再設定部



Claims (14)

  1. データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理を実行するデータ処理システムであって、
    前記データ処理システムは、1以上のプロセッサを含み、
    前記プロセッサは、
    前記データ格納先のデータを参照する参照周期を受け付け、
    前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
    決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
    データ処理システム。
  2. 前記プロセッサは、
    前記参照周期以内の1以上の時間を前記溜め込み時間の候補である候補溜め込み時間とした場合における、前記バッファへデータを格納できないデータ損失の発生の有無を検出し、
    前記データ損失が発生しなかった前記候補溜め込み時間を、前記溜め込み時間に決定する
    請求項1に記載のデータ処理システム。
  3. 前記プロセッサは、
    複数の前記候補溜め込み時間の中の前記データ損失が発生しなかった最短の候補溜め込み時間を、前記溜め込み時間に決定する
    請求項2に記載のデータ処理システム。
  4. 前記プロセッサは、
    前記参照周期と同じ値から徐々に減算していくことにより、複数の候補溜め込み時間を逐次決定し、前記バッファへデータを格納できないデータ損失の発生の有無を検出していくことにより、前記データ損失が発生しなかった最短の前記候補溜め込み時間を探索する
    請求項3に記載のデータ処理システム。
  5. 前記プロセッサは、
    前記参照周期と同じ時間である溜め込み時間において、前記データ損失が発生した場合には、前記参照周期と同じ時間を前記溜め込み時間に決定する
    請求項1に記載のデータ処理システム。
  6. 前記プロセッサは、
    入力されたデータの内の前記バッファへの格納対象とするデータの割合を示すデータ透過率に従って、前記入力されたデータを間引く間引き処理を実行して、前記間引き処理後のデータを前記バッファに格納し、
    前記データ透過率を変えた場合における、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の発生の有無を検出し、
    前記データ損失が発生しない場合の前記データ透過率を、以降に使用するデータ透過率に決定する
    請求項5に記載のデータ処理システム。
  7. 前記プロセッサは、
    入力されるデータとして用いるテストデータの設定を受け付け、
    前記設定に従ったテストデータを生成して前記入力されるデータとして用いる
    請求項1に記載のデータ処理システム。
  8. 前記データ処理システムは、
    ゲートウェイと、前記ゲートウェイとネットワークを介して接続されたサーバとを備え、
    前記バッファは、前記ゲートウェイの第1バッファと、前記サーバの第2バッファとを含み、
    前記プロセッサは、前記サーバのプロセッサを含み、
    前記ゲートウェイは、入力されたデータを受け取って前記第1バッファに格納し、前記第1バッファに格納したデータを前記サーバに出力する処理を実行し、
    前記サーバのプロセッサは、前記ゲートウェイからデータを受け取って前記第2バッファに格納し、前記第2バッファに格納したデータを前記データ格納先に出力する処理を実行し、
    前記サーバのプロセッサは、
    前記第1バッファに格納されたデータを前記サーバへ出力するまで溜め込んでおく時間である第1溜め込み時間を、前記第1バッファへの格納対象となるデータを前記第1バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
    前記第2バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である第2溜め込み時間を、前記第2バッファへの格納対象となるデータを前記第2バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定する
    請求項1に記載のデータ処理システム。
  9. 前記プロセッサは、
    データ損失回避を優先する指示を受け付け、
    データ損失回避を優先する指示を受け付けた場合に、データ損失回避を優先する設定されている場合における前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である損失回避時溜め込み時間を、複数の時間を前記損失回避時溜め込み時間の候補である候補損失回避時溜め込み時間とした場合における、前記バッファへデータを格納できないデータ損失が発生しなかった候補損失回避時溜め込み時間の内の最長の候補損失回避時溜め込み時間に決定し、
    データ損失回避を優先する設定がされている場合には、決定した前記損失回避時溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
    請求項1に記載のデータ処理システム。
  10. 前記プロセッサは、
    所定のデータソースからの実際のデータを用いて、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無を検出する
    請求項1に記載のデータ処理システム。
  11. 前記プロセッサは、
    前記データ損失の発生が所定の条件を満たした場合に、前記溜め込み時間を再決定する処理を行う
    請求項10に記載のデータ処理システム。
  12. 前記プロセッサは、
    決定された前記溜め込み時間を表示させる
    請求項1に記載のデータ処理システム。
  13. データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理を実行するデータ処理システムによるデータ処理方法であって、
    前記データ処理システムは、
    前記データ格納先のデータを参照する参照周期を受け付け、
    前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
    決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
    データ処理方法。
  14. データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理をコンピュータに実行させるデータ処理プログラムであって、
    前記コンピュータに、
    前記データ格納先のデータを参照する参照周期を受け付けさせ
    前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定させ、
    決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力させる
    データ処理プログラム。
JP2023065236A 2023-04-12 2023-04-12 データ処理システム、データ処理方法、及びデータ処理プログラム Active JP7665672B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023065236A JP7665672B2 (ja) 2023-04-12 2023-04-12 データ処理システム、データ処理方法、及びデータ処理プログラム
US18/584,685 US12566653B2 (en) 2023-04-12 2024-02-22 Data processing system, data processing method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023065236A JP7665672B2 (ja) 2023-04-12 2023-04-12 データ処理システム、データ処理方法、及びデータ処理プログラム

Publications (2)

Publication Number Publication Date
JP2024151689A JP2024151689A (ja) 2024-10-25
JP7665672B2 true JP7665672B2 (ja) 2025-04-21

Family

ID=93016512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023065236A Active JP7665672B2 (ja) 2023-04-12 2023-04-12 データ処理システム、データ処理方法、及びデータ処理プログラム

Country Status (2)

Country Link
US (1) US12566653B2 (ja)
JP (1) JP7665672B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180246950A1 (en) 2017-02-27 2018-08-30 Timescale, Inc. Scalable database system for querying time-series data
JP2018173865A (ja) 2017-03-31 2018-11-08 オムロン株式会社 制御装置
JP2022091323A (ja) 2020-12-09 2022-06-21 株式会社日立製作所 データ管理装置及びプログラム
CN115794900A (zh) 2022-11-10 2023-03-14 南京捷崎信息科技有限公司 一种数据处理方法及系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3430999B2 (ja) 1999-11-10 2003-07-28 日本電気株式会社 記憶媒体スケジューラ、リアルタイムシステムおよびスケジューリング方法
US9037811B2 (en) * 2013-03-15 2015-05-19 International Business Machines Corporation Tagging in memory control unit (MCU)
US9847926B2 (en) * 2015-04-15 2017-12-19 Teachers Insurance And Annuity Association Of America Presenting application performance monitoring data in distributed computer systems
JP6963465B2 (ja) 2017-10-30 2021-11-10 株式会社日立製作所 計算機システム及びデータ処理の制御方法
US11093349B2 (en) * 2019-04-24 2021-08-17 Dell Products L.P. System and method for reactive log spooling
US11416397B2 (en) * 2019-10-14 2022-08-16 Intel Corporation Global persistent flush

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180246950A1 (en) 2017-02-27 2018-08-30 Timescale, Inc. Scalable database system for querying time-series data
JP2018173865A (ja) 2017-03-31 2018-11-08 オムロン株式会社 制御装置
JP2022091323A (ja) 2020-12-09 2022-06-21 株式会社日立製作所 データ管理装置及びプログラム
CN115794900A (zh) 2022-11-10 2023-03-14 南京捷崎信息科技有限公司 一种数据处理方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
西川 記史ほか,送電系安定化の為のデータ分析プラットフォームにおける蓄積系データ処理技術と評価,第7回データ工学と情報マネジメントに関するフォーラム (第13回日本データベース学会年次大会),日本データベース学会,2015年03月04日

Also Published As

Publication number Publication date
JP2024151689A (ja) 2024-10-25
US20240345907A1 (en) 2024-10-17
US12566653B2 (en) 2026-03-03

Similar Documents

Publication Publication Date Title
CN108521353B (zh) 定位性能瓶颈的处理方法、设备及可读存储介质
Calheiros et al. Workload prediction using ARIMA model and its impact on cloud applications’ QoS
EP3382554B1 (en) Metrics collection and aggregation for distributed software services
CN113138927B (zh) 一种软件功能测试方法和装置
TW201928709A (zh) 對模型預測值進行融合的方法、裝置和設備
CN108762907B (zh) 基于多个客户端的任务处理方法及系统
CN109257240B (zh) 一种监测虚拟化网络功能单元性能的方法和装置
WO2015194182A1 (ja) サービスチェーン管理装置、サービスチェーン管理システム、サービスチェーン管理方法、及び、プログラム記録媒体
US11743113B2 (en) Fault rectification operation recommendation method and apparatus, and storage medium
CN110888816B (zh) 程序测试方法、程序测试装置及存储介质
JP2017211788A (ja) 情報処理装置、ジョブ投入方法、およびジョブ投入プログラム
JP7665672B2 (ja) データ処理システム、データ処理方法、及びデータ処理プログラム
JP2018088041A (ja) 接続数制御プログラム、振り分け装置および接続数制御方法
US11474868B1 (en) Sharded polling system
CN114900379B (zh) 一种消息通知方法、装置、电子设备及存储介质
Zinner et al. A discrete-time model for optimizing the processing time of virtualized network functions
JP6613763B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
US10713142B2 (en) Method and device for identifying bottleneck candidate
Wiedner et al. Containing low tail-latencies in packet processing using lightweight virtualization
CN111506455A (zh) 服务发布结果的查验方法及装置
US12554717B2 (en) Dynamically substituting a modified query based on performance analysis
US20120029961A1 (en) Method, device and computer program product for service balancing in an electronic communications system
US20210248512A1 (en) Intelligent machine learning recommendation platform
CN114860455A (zh) 一种请求处理方法、装置、设备及存储介质
CN113269431B (zh) 库存风险预测方法、设备、介质及计算机程序产品

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250409

R150 Certificate of patent or registration of utility model

Ref document number: 7665672

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150