Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5732082B2 - データ管理装置およびデータ管理プログラム - Google Patents
[go: Go Back, main page]

JP5732082B2 - データ管理装置およびデータ管理プログラム - Google Patents

データ管理装置およびデータ管理プログラム Download PDF

Info

Publication number
JP5732082B2
JP5732082B2 JP2013020575A JP2013020575A JP5732082B2 JP 5732082 B2 JP5732082 B2 JP 5732082B2 JP 2013020575 A JP2013020575 A JP 2013020575A JP 2013020575 A JP2013020575 A JP 2013020575A JP 5732082 B2 JP5732082 B2 JP 5732082B2
Authority
JP
Japan
Prior art keywords
key
data
storage
subkey
data management
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013020575A
Other languages
English (en)
Other versions
JP2014153760A (ja
Inventor
嵩 安藤
嵩 安藤
阿部 健二
健二 阿部
潤子 佐々木
潤子 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2013020575A priority Critical patent/JP5732082B2/ja
Publication of JP2014153760A publication Critical patent/JP2014153760A/ja
Application granted granted Critical
Publication of JP5732082B2 publication Critical patent/JP5732082B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、KVS(Key-Value Store)を用いてデータを複数の記憶装置に分散して管理するデータ管理装置およびデータ管理プログラムに関する。
大規模通信サービスなどのシステムにおいては、データ操作のターンアラウンドタイム(TAT)に対する要件が非常に厳しく、データ更新にリアルタイム性が求められる。
また、大規模データの高速処理を実現するために、分散KVS(Key-Value Store)システムでデータベースを構築すること行われている。分散KVSは、キーと値(バリュー)で一組のペアとし、複数のストレージに分散して格納する。分散KVSについては、例えば、非特許文献1に記載されている。
「Range-Key Skip Graph による範囲検索可能な大規模分散キーバリューストアの実現」、情報処理学会研究報告、IPSJ SIG Notes 2010-DPS-144(9)、1-8、2010年9月10日
KVSシステムでデータベースを構築する場合、データ検索速度を高速化する目的から、基本的に、データに対して1つのキーを用いてアクセスする。しかしながら、例えば、大規模通信サービスにおいて、1つの加入者データ(サービスオーダーデータ)に対して、ある時は電話番号でアクセスし、ある時はSIP-URIでアクセスする、というように異なるキーでアクセスするケースが存在する。
1つのデータに対して複数の異なるキーでアクセスする場合は、キー毎にデータを重複して保持するか、別途インデックスシステムを構築する必要がある。キー毎にデータを重複して保持した場合、記憶容量を多量に必要とするとともに、データ更新時の整合性確保とターンアラウンドタイムが悪化する、という課題が生じる。また、別途インデックスシステムを構築する場合、インデックスシステム自体の規模が大きくなり分散収容する必要性が生じ、保守管理稼働が増加するという課題が生じる。
本発明は、上記事情に鑑みてなされたものであり、本発明の目的は、キー毎にデータを重複して保持すること、およびインデックスシステムを構築することなく、複数の異なるキーでデータにアクセス可能なデータ管理装置およびデータ管理プログラムを提供することにある。
上記目的を達成するため、本発明は、複数の記憶装置にデータを分散して管理するデータ管理装置であって、キーの種別毎に、キーの範囲と当該範囲のキーの格納先の記憶装置とを対応付けた格納先解決情報を記憶する記憶手段と、副キー用の格納先解決情報を参照して決定した記憶装置に、副キーと、当該副キーに対応付けられたデータへアクセスするためのポインタとを格納するとともに、主キー用の格納先解決情報を参照して決定した記憶装置に、主キーと、当該主キーに対応付けられたデータとを格納する登録手段と、を備え、前記副キーおよび前記主キーは、複数の前記記憶装置に分散して格納される
本発明は、複数の記憶装置にデータを分散して管理するデータ管理プログラムであって、コンピュータは、キーの種別毎に、キーの範囲と当該範囲のキーの格納先の記憶装置とを対応付けた格納先解決情報を記憶する記憶部を備え、前記コンピュータに、副キー用の格納先解決情報を参照して決定した記憶装置に、副キーと、当該副キーに対応付けられたデータへアクセスするためのポインタとを格納するステップと、主キー用の格納先解決情報を参照して決定した記憶装置に、主キーと、当該主キーに対応付けられたデータとを格納するステップと、を実行させ、前記副キーおよび前記主キーは、複数の前記記憶装置に分散して格納される。
本発明によれば、キー毎にデータを重複して保持すること、およびインデックスシステムを構築することなく、複数の異なるキーでデータにアクセス可能なデータ管理装置およびデータ管理プログラムを提供することができる。
本発明の実施形態に係るデータ管理システムの構成図である。 DBサーバ(#1)の機能を示すブロック図である。 登録処理を説明するための説明図である。 検索処理を説明するための説明図である。
以下、本発明の実施の形態について、図面を参照して説明する。
図1は、本実施形態におけるデータ管理システム1の構成を示す全体構成図である。本実施形態のデータ管理システム1は、分散KVSを用いて大量のデータを複数のDBサーバ(記憶装置)に分散して格納(収容)し、管理する分散DBシステムである。
図1に示すデータ管理システム1は、複数のDBサーバ11、12を備え、キーを用いてデータを振り分け、各DBサーバ11、12に分散してデータを格納する。データ管理システム1の外部からは、データがどのDBサーバ11、12に格納されているかは分からない。
クライアント2は、ネットワークを介してデータ管理システム1にアクセスし、キーを指定してデータ管理システム1のいずれかのDBサーバ11、12に格納されたデータについて検索・更新、また、データの登録・追加などのデータ操作を行う。
本実施形態では、DBサーバ(#1)11が、クライアント2からの要求を受け付けるレシーバ(制御装置)としての機能を有するとともに、データを格納するストレージ(記憶装置)としての機能も合わせもつものとする。
図2は、DBサーバ(#1)11(データ管理装置)の構成を示すブロック図である。図示するDBサーバ(#1)11は、登録部111と、検索部112と、格納先解決情報記憶部113と、ストレージ部114とを備える。
格納先解決情報記憶部113は、キーの種別毎に、各キーの格納先のDBサーバ11、12が設定された格納先解決情報を記憶する。本実施形態では、各データ(実データ)には、複数の種別のキーが対応付けられ、1つのデータに対して複数の異なるキーでアクセスできるようにしている。
図1に示す格納先解決情報記憶部113では、種別1と種別2の2つの種別の格納先解決情報が記憶されているものとする。図示する例では、種別1のキーには電話番号帯を用い、種別2のキーには契約ID帯を用いるものとする。また、本実施形態では、種別1のキーを主キーとし、種別2のキーを副キーとして、以下に説明する。なお、副キーの数は、1つに限定されるものではなく複数あってもよい。複数の種別の副キーを備える場合は、副キーの種別毎に格納先解決情報が格納先解決情報記憶部113に記憶される。
また、格納先解決情報記憶部113は、図2に示すように、DBサーバ(#1)11が備えることとしてもよく、あるいは、DBサーバ(#1)11がアクセス可能な他の装置が備えることとしてもよい。
登録部111は、格納先解決情報記憶部113の副キー(キー種別2)の格納先解決情報を参照して、副キーを格納するDBサーバを決定し、決定したDBサーバに副キーと、当該副キーに対応付けられたデータへアクセスするためのポインタとを格納する。また、登録部111は、格納先解決情報記憶部113の主キー(キー種別1)の格納先解決情報を参照して、主キーを格納するDBサーバを決定し、決定したDBサーバに、主キーと、当該主キーに対応付けられたデータとを格納する。
検索部112は、いずれかの種別の副キーが指定された検索要求を受け付け、当該副キーの格納先解決情報を参照して当該副キーが格納されたDBサーバ11、12にアクセスして当該副キーに対応するポインタを取得し、取得したポインタを用いて当該副キーに対応付けられたデータが格納されたDBサーバ11、12にアクセスし、データを読み出す。
ストレージ部114には、格納先解決情報によりキー分散されたデータおよびキーが格納される。本実施形態では、主キーの格納先には、主キーとともにデータを格納し、副キーの格納先には、副キーとともにデータへのポインタを格納する。
なお、DBサーバ(#1)11以外の他のDBサーバ(#2)〜(#4)12は、少なくともDBサーバ(#1)11のストレージ部114と同様のストレージ部を備える。
上記説明したDBサーバ(#1)11は、例えば、CPUと、メモリと、HDD等の外部記憶装置と、入力装置と、出力装置とを備えた汎用的なコンピュータシステムを用いることができる。このコンピュータシステムにおいて、CPUがメモリ上にロードされたDBサーバ(#1)11用のプログラム(データ管理プログラム)を実行することにより、DBサーバ(#1)11の各機能が実現される。また、DBサーバ(#1)11用のプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVD−ROMなどのコンピュータ読取り可能な記録媒体に記憶することも、ネットワークを介して配信することもできる。
次に、本実施形態の処理について説明する。
図3は、DBサーバへの登録・更新処理を説明するための説明図である。
クライアント2は、データの登録要求をデータ管理システム1に送信する(S11)。この登録要求には、主キーと、副キーと、実際に格納するデータ(実データ)とが含まれている。
DBサーバ(#1)の登録部111は、登録要求を受信すると、当該登録要求で指定された副キーを格納するDBサーバを、格納先解決情報記憶部113を参照して決定する(S12)。具体的には、当該副キー用の格納先解決情報113Aから当該副キー(図示する例では、A0001zzz)に対応する格納先のDBサーバ(図示する例では、DBサーバ(#2))を決定する。そして、登録部111は、決定したDBサーバにアクセスし、当該副キーと、キー種別と、ポインタとを含むレコードを格納する(S12)。
キー種別は、対象のキーが主キーであるのか、副キーであるかの種別を示すものであって、S12ではキー種別に副キーを設定する。ポインタは、データへアクセスするためのポインタである。本実施形態では、ポインタに、登録要求で指定された主キー(図示する例では、0502222xxxx)を用いるものとする。なお、ポインタは、データにアクセスできるものであればなんでもよく、主キー以外にも、DBサーバのアドレスや、データ管理システム1全体でユニークなIDなどを用いることとしてもよい。
そして、登録部111は、S11の登録要求で指定されたデータを主キーとともに格納するDBサーバを、格納先解決情報記憶部113を参照して決定する(S13)。具体的には、当該主キー用の格納先解決情報113Bから当該主キー(図示する例では、0502222xxxx )に対応する格納先のDBサーバ(図示する例では、DBサーバ(#3))を決定する。そして、登録部111は、決定したDBサーバにアクセスし、当該主キーと、キー種別と、データ(図示する例では、yyyy)とを格納する(S13)。S13ではキー種別に主キーを設定する。
以上の登録処理により、副キーと対応付けたポインタを複数のDBサーバに分散して格納するとともに、主キーと対応付けたデータを複数のDBサーバに分散して格納することができる。
なお、S11で受信した要求が、主キーと副キーのバインド要求(副キーを主キーに紐付ける要求)の場合であって、主キーとデータとがすでにDBサーバに登録されている場合は、登録部111は、S12の処理のみを行うものとする。バインド要求にも、登録要求と同様に、主キーと、副キーと、データとが含まれるものとする。
図4は、データの検索処理を説明するための説明図である。
クライアント2は、データの検索要求をデータ管理システム1に送信する(S21)。ここでは、副キーを指定した検索要求であるものとする。なお、検索要求で指定されたキーが副キーか、主キーであるかのキー種別の判別は、例えば、クライアント2から送信される検索要求にキー種別が指定されている、または検索要求を受信した検索部112がキーの番号体系・構成などのキーの解析を行うなど、何らかの方法で判別する。
DBサーバ(#1)の検索部112は、検索要求を受信すると、当該検索要求で指定された副キーを格納したDBサーバを、格納先解決情報記憶部113を参照して取得する(S22)。具体的には、当該副キー用の格納先解決情報113Aから指定された副キー(図示する例では、A0001zzz)に対応する副キーの格納先のDBサーバ(図示する例では、DBサーバ(#2))を取得する。そして、検索部112は、取得したDBサーバにアクセスし、当該副キーに対応するキー種別が副キーか否かをチェックし、キー種別が副キーの場合、ポインタ(図示する例では、0502222xxxx )を読み出す(S22)。
そして、検索部112は、読み出したポインタを用いて、データが格納されているDBサーバを特定する(S22)。本実施形態では、ポインタに主キーを使用しているため、格納先解決情報記憶部113の主キー用の格納先解決情報113Bを参照し、取得した主キー(図示する例では、0502222xxxx)に対応するデータの格納先のDBサーバ(図示する例では、DBサーバ(#3))を取得する。
そして、検索部112は、取得したDBサーバにアクセスし、当該主キーに対応するキー種別が主キーか否かをチェックし、キー種別が主キーの場合、当該主キーに対応付けて格納されているデータ(図示する例では、yyyy)を読み出し、S21の検索要求元のクライアント2に送信する(S23)。
なお、S21で検索部112が受信した検索要求が、主キーを指定した検索要求の場合、格納先解決情報記憶部113の主キー用の格納先解決情報113Bを参照し、取得した主キーに対応するデータの格納先のDBサーバを取得し、取得したDBサーバにアクセスする。そして、登録部112は、当該主キーに対応するキー種別が主キーか否かをチェックし、キー種別が主キーの場合、当該主キーに対応付けて格納されているデータを読み出し、検索要求元のクライアント2に送信する。
以上説明したように、本実施形態では、主キーにより個々のデータを分散収容するとともに、副キーによる分散収容も可能とし、主キーについてはデータ(実データ)とともに格納し、副キーについては、データへ格納先を示すポインタをとともに格納する。
これにより、本実施形態では、1つのデータに対して複数のキーでアクセスすることが可能となる。例えば、大規模通信サービスが提供されているシステムにおいて、加入者データを本実施形態のデータ管理システムで保持する場合に、主キー以外でも効率的に加入者データを検索することができる。
また、データ自体は1つの箇所に格納するため、データを重複して保持する必要がない。これにより、データの重複による記憶容量の増大を回避するとともに、データ更新時の整合性が崩れることがなく、ターンアラウンドタイムの悪化を防止することもできる。また、キーの分散収容を行うのみで、別途インデックスシステムを構築する必要が無く、データ更新時にインデックス再構築に伴うターンアラウンドタイムの遅延も発生しない。
なお、本発明は上記実施形態に限定されるものではなく、その要旨の範囲内で数々の変形が可能である。
1 :データ管理システム
11 :DBサーバ(#1)
111:登録部
112:検索部
113:格納先情報記憶部
114:ストレージ部
12 :DBサーバ(#2)〜(#4)
2 :クライアント

Claims (4)

  1. 複数の記憶装置にデータを分散して管理するデータ管理装置であって、
    キーの種別毎に、キーの範囲と当該範囲のキーの格納先の記憶装置とを対応付けた格納先解決情報を記憶する記憶手段と、
    副キー用の格納先解決情報を参照して決定した記憶装置に、副キーと、当該副キーに対応付けられたデータへアクセスするためのポインタとを格納するとともに、主キー用の格納先解決情報を参照して決定した記憶装置に、主キーと、当該主キーに対応付けられたデータとを格納する登録手段と、を備え
    前記副キーおよび前記主キーは、複数の前記記憶装置に分散して格納されること
    を特徴とするデータ管理装置。
  2. 請求項1記載のデータ管理装置であって、
    副キーが指定された検索要求を受け付け、副キー用の格納先解決情報を参照して当該副キーが格納された記憶装置にアクセスして当該副キーに対応するポインタを取得し、取得したポインタを用いて当該副キーに対応付けられたデータが格納された記憶装置にアクセスし、データを読み出す検索手段、をさらに備えること
    を特徴とするデータ管理装置。
  3. 複数の記憶装置にデータを分散して管理するデータ管理プログラムであって、
    コンピュータは、キーの種別毎に、キーの範囲と当該範囲のキーの格納先の記憶装置とを対応付けた格納先解決情報を記憶する記憶部を備え、
    前記コンピュータに、
    副キー用の格納先解決情報を参照して決定した記憶装置に、副キーと、当該副キーに対応付けられたデータへアクセスするためのポインタとを格納するステップと、
    主キー用の格納先解決情報を参照して決定した記憶装置に、主キーと、当該主キーに対応付けられたデータとを格納するステップと、を実行させ
    前記副キーおよび前記主キーは、複数の前記記憶装置に分散して格納されること
    を特徴とするデータ管理プログラム。
  4. 請求項3記載のデータ管理プログラムであって、
    副キーが指定された検索要求を受け付け、副キー用の格納先解決情報を参照して当該副キーが格納された記憶装置にアクセスして当該副キーに対応するポインタを取得するステップと、
    取得したポインタを用いて当該副キーに対応付けられたデータが格納された記憶装置にアクセスし、データを読み出すステップと、
    をさらに実行させるためのデータ管理プログラム。
JP2013020575A 2013-02-05 2013-02-05 データ管理装置およびデータ管理プログラム Active JP5732082B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013020575A JP5732082B2 (ja) 2013-02-05 2013-02-05 データ管理装置およびデータ管理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013020575A JP5732082B2 (ja) 2013-02-05 2013-02-05 データ管理装置およびデータ管理プログラム

Publications (2)

Publication Number Publication Date
JP2014153760A JP2014153760A (ja) 2014-08-25
JP5732082B2 true JP5732082B2 (ja) 2015-06-10

Family

ID=51575618

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013020575A Active JP5732082B2 (ja) 2013-02-05 2013-02-05 データ管理装置およびデータ管理プログラム

Country Status (1)

Country Link
JP (1) JP5732082B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6299307B2 (ja) 2014-03-19 2018-03-28 日本電気株式会社 ストレージシステム、ストレージ方法、及び、プログラム
JP6440256B2 (ja) * 2015-02-16 2018-12-19 日本電信電話株式会社 データベースの検索方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62276626A (ja) * 1986-05-26 1987-12-01 Mitsubishi Electric Corp フアイル管理方式
JPH09311803A (ja) * 1996-05-24 1997-12-02 Chiyoda Keiei Consultants:Kk 索引付き順編成ファイルのレコード乱呼び出し装置及び方法
JP2000181768A (ja) * 1998-12-15 2000-06-30 Anetsukusu Syst Kk デ―タ格納検索方式
US20090125540A1 (en) * 2007-11-08 2009-05-14 Richard Dean Dettinger Method for executing federated database queries using aliased keys

Also Published As

Publication number Publication date
JP2014153760A (ja) 2014-08-25

Similar Documents

Publication Publication Date Title
Mendes et al. Charon: A secure cloud-of-clouds system for storing and sharing big data
US9886441B2 (en) Shard aware near real time indexing
US10691716B2 (en) Dynamic partitioning techniques for data streams
US9298732B2 (en) Searching cloud-based distributed storage resources using a set of expendable probes
JP5765416B2 (ja) 分散ストレージシステムおよび方法
US20130268740A1 (en) Self-Destructing Files in an Object Storage System
US20150134626A1 (en) Partition-based data stream processing framework
US20160205218A1 (en) Multi-adapter support in the cloud
US20160292192A1 (en) Schema evolution in mult-tenant environment
US20130055371A1 (en) Storage control method and information processing apparatus
CN110457307B (zh) 元数据管理系统、用户集群创建方法、装置、设备和介质
KR101621385B1 (ko) 클라우드 스토리지 서비스의 파일 검색 시스템 및 방법, 및 파일 제어 방법
JP6268116B2 (ja) データ処理装置、データ処理方法およびコンピュータプログラム
US9934248B2 (en) Computer system and data management method
JP6084700B2 (ja) 検索システム及び検索方法
JP5732082B2 (ja) データ管理装置およびデータ管理プログラム
JP2018116348A (ja) データベースシステムおよびデータ処理方法
JP6406254B2 (ja) ストレージ装置、データアクセス方法およびデータアクセスプログラム
CN115203200A (zh) 一种数据库表结构变更的方法、装置、设备及存储介质
JP5792325B2 (ja) 計算機システム、データ管理方法及びプログラム
KR20160145250A (ko) 가상 머지를 지원하는 셔플 내장형 분산 스토리지 시스템 및 그 방법
US11709845B2 (en) Federation of data during query time in computing systems
Kumar et al. Calibre: A better consistency-latency tradeoff for quorum based replication systems
JP5466191B2 (ja) アクセス制御システム、サーバ管理装置、データ蓄積装置、アクセス制御方法、サーバ管理プログラム、及びデータ蓄積プログラム
JP2016177347A (ja) データベースシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140514

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150410

R150 Certificate of patent or registration of utility model

Ref document number: 5732082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350