JP7665672B2 - データ処理システム、データ処理方法、及びデータ処理プログラム - Google Patents
データ処理システム、データ処理方法、及びデータ処理プログラム Download PDFInfo
- Publication number
- JP7665672B2 JP7665672B2 JP2023065236A JP2023065236A JP7665672B2 JP 7665672 B2 JP7665672 B2 JP 7665672B2 JP 2023065236 A JP2023065236 A JP 2023065236A JP 2023065236 A JP2023065236 A JP 2023065236A JP 7665672 B2 JP7665672 B2 JP 7665672B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- buffer
- time
- stored
- loss
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0766—Error or fault reporting or storing
- G06F11/0772—Means for error signaling, e.g. using interrupts, exception flags, dedicated error registers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0823—Errors, e.g. transmission errors
- H04L43/0829—Packet loss
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0793—Remedial or corrective actions
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Environmental & Geological Engineering (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Description
Claims (14)
- データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理を実行するデータ処理システムであって、
前記データ処理システムは、1以上のプロセッサを含み、
前記プロセッサは、
前記データ格納先のデータを参照する参照周期を受け付け、
前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
データ処理システム。 - 前記プロセッサは、
前記参照周期以内の1以上の時間を前記溜め込み時間の候補である候補溜め込み時間とした場合における、前記バッファへデータを格納できないデータ損失の発生の有無を検出し、
前記データ損失が発生しなかった前記候補溜め込み時間を、前記溜め込み時間に決定する
請求項1に記載のデータ処理システム。 - 前記プロセッサは、
複数の前記候補溜め込み時間の中の前記データ損失が発生しなかった最短の候補溜め込み時間を、前記溜め込み時間に決定する
請求項2に記載のデータ処理システム。 - 前記プロセッサは、
前記参照周期と同じ値から徐々に減算していくことにより、複数の候補溜め込み時間を逐次決定し、前記バッファへデータを格納できないデータ損失の発生の有無を検出していくことにより、前記データ損失が発生しなかった最短の前記候補溜め込み時間を探索する
請求項3に記載のデータ処理システム。 - 前記プロセッサは、
前記参照周期と同じ時間である溜め込み時間において、前記データ損失が発生した場合には、前記参照周期と同じ時間を前記溜め込み時間に決定する
請求項1に記載のデータ処理システム。 - 前記プロセッサは、
入力されたデータの内の前記バッファへの格納対象とするデータの割合を示すデータ透過率に従って、前記入力されたデータを間引く間引き処理を実行して、前記間引き処理後のデータを前記バッファに格納し、
前記データ透過率を変えた場合における、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の発生の有無を検出し、
前記データ損失が発生しない場合の前記データ透過率を、以降に使用するデータ透過率に決定する
請求項5に記載のデータ処理システム。 - 前記プロセッサは、
入力されるデータとして用いるテストデータの設定を受け付け、
前記設定に従ったテストデータを生成して前記入力されるデータとして用いる
請求項1に記載のデータ処理システム。 - 前記データ処理システムは、
ゲートウェイと、前記ゲートウェイとネットワークを介して接続されたサーバとを備え、
前記バッファは、前記ゲートウェイの第1バッファと、前記サーバの第2バッファとを含み、
前記プロセッサは、前記サーバのプロセッサを含み、
前記ゲートウェイは、入力されたデータを受け取って前記第1バッファに格納し、前記第1バッファに格納したデータを前記サーバに出力する処理を実行し、
前記サーバのプロセッサは、前記ゲートウェイからデータを受け取って前記第2バッファに格納し、前記第2バッファに格納したデータを前記データ格納先に出力する処理を実行し、
前記サーバのプロセッサは、
前記第1バッファに格納されたデータを前記サーバへ出力するまで溜め込んでおく時間である第1溜め込み時間を、前記第1バッファへの格納対象となるデータを前記第1バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
前記第2バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である第2溜め込み時間を、前記第2バッファへの格納対象となるデータを前記第2バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定する
請求項1に記載のデータ処理システム。 - 前記プロセッサは、
データ損失回避を優先する指示を受け付け、
データ損失回避を優先する指示を受け付けた場合に、データ損失回避を優先する設定されている場合における前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である損失回避時溜め込み時間を、複数の時間を前記損失回避時溜め込み時間の候補である候補損失回避時溜め込み時間とした場合における、前記バッファへデータを格納できないデータ損失が発生しなかった候補損失回避時溜め込み時間の内の最長の候補損失回避時溜め込み時間に決定し、
データ損失回避を優先する設定がされている場合には、決定した前記損失回避時溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
請求項1に記載のデータ処理システム。 - 前記プロセッサは、
所定のデータソースからの実際のデータを用いて、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無を検出する
請求項1に記載のデータ処理システム。 - 前記プロセッサは、
前記データ損失の発生が所定の条件を満たした場合に、前記溜め込み時間を再決定する処理を行う
請求項10に記載のデータ処理システム。 - 前記プロセッサは、
決定された前記溜め込み時間を表示させる
請求項1に記載のデータ処理システム。 - データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理を実行するデータ処理システムによるデータ処理方法であって、
前記データ処理システムは、
前記データ格納先のデータを参照する参照周期を受け付け、
前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定し、
決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力する
データ処理方法。 - データを受け取ってバッファに格納し、前記バッファに格納したデータを所定のデータ格納先へ出力する処理をコンピュータに実行させるデータ処理プログラムであって、
前記コンピュータに、
前記データ格納先のデータを参照する参照周期を受け付けさせ
前記バッファに格納されたデータを前記データ格納先へ出力するまで溜め込んでおく時間である溜め込み時間を、前記バッファへの格納対象となるデータを前記バッファへ格納できないデータ損失の有無に基づいて、前記参照周期以内の時間に決定させ、
決定された前記溜め込み時間に従って、前記バッファのデータを前記データ格納先に出力させる
データ処理プログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023065236A JP7665672B2 (ja) | 2023-04-12 | 2023-04-12 | データ処理システム、データ処理方法、及びデータ処理プログラム |
| US18/584,685 US12566653B2 (en) | 2023-04-12 | 2024-02-22 | Data processing system, data processing method, and recording medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023065236A JP7665672B2 (ja) | 2023-04-12 | 2023-04-12 | データ処理システム、データ処理方法、及びデータ処理プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2024151689A JP2024151689A (ja) | 2024-10-25 |
| JP7665672B2 true JP7665672B2 (ja) | 2025-04-21 |
Family
ID=93016512
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023065236A Active JP7665672B2 (ja) | 2023-04-12 | 2023-04-12 | データ処理システム、データ処理方法、及びデータ処理プログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US12566653B2 (ja) |
| JP (1) | JP7665672B2 (ja) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180246950A1 (en) | 2017-02-27 | 2018-08-30 | Timescale, Inc. | Scalable database system for querying time-series data |
| JP2018173865A (ja) | 2017-03-31 | 2018-11-08 | オムロン株式会社 | 制御装置 |
| JP2022091323A (ja) | 2020-12-09 | 2022-06-21 | 株式会社日立製作所 | データ管理装置及びプログラム |
| CN115794900A (zh) | 2022-11-10 | 2023-03-14 | 南京捷崎信息科技有限公司 | 一种数据处理方法及系统 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3430999B2 (ja) | 1999-11-10 | 2003-07-28 | 日本電気株式会社 | 記憶媒体スケジューラ、リアルタイムシステムおよびスケジューリング方法 |
| US9037811B2 (en) * | 2013-03-15 | 2015-05-19 | International Business Machines Corporation | Tagging in memory control unit (MCU) |
| US9847926B2 (en) * | 2015-04-15 | 2017-12-19 | Teachers Insurance And Annuity Association Of America | Presenting application performance monitoring data in distributed computer systems |
| JP6963465B2 (ja) | 2017-10-30 | 2021-11-10 | 株式会社日立製作所 | 計算機システム及びデータ処理の制御方法 |
| US11093349B2 (en) * | 2019-04-24 | 2021-08-17 | Dell Products L.P. | System and method for reactive log spooling |
| US11416397B2 (en) * | 2019-10-14 | 2022-08-16 | Intel Corporation | Global persistent flush |
-
2023
- 2023-04-12 JP JP2023065236A patent/JP7665672B2/ja active Active
-
2024
- 2024-02-22 US US18/584,685 patent/US12566653B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180246950A1 (en) | 2017-02-27 | 2018-08-30 | Timescale, Inc. | Scalable database system for querying time-series data |
| JP2018173865A (ja) | 2017-03-31 | 2018-11-08 | オムロン株式会社 | 制御装置 |
| JP2022091323A (ja) | 2020-12-09 | 2022-06-21 | 株式会社日立製作所 | データ管理装置及びプログラム |
| CN115794900A (zh) | 2022-11-10 | 2023-03-14 | 南京捷崎信息科技有限公司 | 一种数据处理方法及系统 |
Non-Patent Citations (1)
| Title |
|---|
| 西川 記史ほか,送電系安定化の為のデータ分析プラットフォームにおける蓄積系データ処理技術と評価,第7回データ工学と情報マネジメントに関するフォーラム (第13回日本データベース学会年次大会),日本データベース学会,2015年03月04日 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2024151689A (ja) | 2024-10-25 |
| US20240345907A1 (en) | 2024-10-17 |
| US12566653B2 (en) | 2026-03-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108521353B (zh) | 定位性能瓶颈的处理方法、设备及可读存储介质 | |
| Calheiros et al. | Workload prediction using ARIMA model and its impact on cloud applications’ QoS | |
| EP3382554B1 (en) | Metrics collection and aggregation for distributed software services | |
| CN113138927B (zh) | 一种软件功能测试方法和装置 | |
| TW201928709A (zh) | 對模型預測值進行融合的方法、裝置和設備 | |
| CN108762907B (zh) | 基于多个客户端的任务处理方法及系统 | |
| CN109257240B (zh) | 一种监测虚拟化网络功能单元性能的方法和装置 | |
| WO2015194182A1 (ja) | サービスチェーン管理装置、サービスチェーン管理システム、サービスチェーン管理方法、及び、プログラム記録媒体 | |
| US11743113B2 (en) | Fault rectification operation recommendation method and apparatus, and storage medium | |
| CN110888816B (zh) | 程序测试方法、程序测试装置及存储介质 | |
| JP2017211788A (ja) | 情報処理装置、ジョブ投入方法、およびジョブ投入プログラム | |
| JP7665672B2 (ja) | データ処理システム、データ処理方法、及びデータ処理プログラム | |
| JP2018088041A (ja) | 接続数制御プログラム、振り分け装置および接続数制御方法 | |
| US11474868B1 (en) | Sharded polling system | |
| CN114900379B (zh) | 一种消息通知方法、装置、电子设备及存储介质 | |
| Zinner et al. | A discrete-time model for optimizing the processing time of virtualized network functions | |
| JP6613763B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
| US10713142B2 (en) | Method and device for identifying bottleneck candidate | |
| Wiedner et al. | Containing low tail-latencies in packet processing using lightweight virtualization | |
| CN111506455A (zh) | 服务发布结果的查验方法及装置 | |
| US12554717B2 (en) | Dynamically substituting a modified query based on performance analysis | |
| US20120029961A1 (en) | Method, device and computer program product for service balancing in an electronic communications system | |
| US20210248512A1 (en) | Intelligent machine learning recommendation platform | |
| CN114860455A (zh) | 一种请求处理方法、装置、设备及存储介质 | |
| CN113269431B (zh) | 库存风险预测方法、设备、介质及计算机程序产品 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241126 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241213 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250318 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250409 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7665672 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |