Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3422004B2 - Expansion type disk array device - Google Patents
[go: Go Back, main page]

JP3422004B2 - Expansion type disk array device - Google Patents

Expansion type disk array device

Info

Publication number
JP3422004B2
JP3422004B2 JP20025596A JP20025596A JP3422004B2 JP 3422004 B2 JP3422004 B2 JP 3422004B2 JP 20025596 A JP20025596 A JP 20025596A JP 20025596 A JP20025596 A JP 20025596A JP 3422004 B2 JP3422004 B2 JP 3422004B2
Authority
JP
Japan
Prior art keywords
data
divided
disk
divided data
redundant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP20025596A
Other languages
Japanese (ja)
Other versions
JPH1049313A (en
Inventor
誠 水上
嘉伯 磯村
伸芳 井沢
康介 櫻井
隆司 松本
啓章 白水
隆 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP20025596A priority Critical patent/JP3422004B2/en
Publication of JPH1049313A publication Critical patent/JPH1049313A/en
Application granted granted Critical
Publication of JP3422004B2 publication Critical patent/JP3422004B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/08Error detection or correction by redundancy in data representation, e.g. by using checking codes
    • G06F11/10Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
    • G06F11/1076Parity data used in redundant arrays of independent storages, e.g. in RAID systems
    • G06F11/1096Parity calculation or recalculation after configuration or reconfiguration of the system

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)

Description

【発明の詳細な説明】 【0001】 【発明の属する技術分野】本発明は、複数のディスクド
ライブを有し、いずれかのドライブが故障しても他のド
ライブに記録されたデータに基づいてこれを復元するこ
とができるディスクアレイ装置の改良に関するものであ
る。 【0002】 【従来の技術】図1はディスクアレイ装置の基本構成を
示すもので、複数、ここではN(N≧2の整数)台のデ
ィスクドライブ1(但し、N台の各ディスクドライブを
区別する場合は、#1,#2,……#Nと表すものとす
る。)と、各ディスクドライブ#1〜#Nを制御するデ
ィスクアレイコントローラ2と、各ディスクドライブ#
1〜#N及びディスクアレイコントローラ2を接続する
内部バス3とからディスクアレイ装置4が構成されてい
る。また、ディスクアレイコントローラ2は、外部バス
5を介してホストコンピュータ6に接続されており、該
ホストコンピュータ6からのリード/ライト命令に応じ
て各ディスクドライブ#1〜#Nをアクセスする。 【0003】ディスクアレイ装置では、装置の信頼性を
高めるため、いずれかのディスクドライブが故障しても
該故障したドライブが記録していたデータを復元できる
ような冗長構成が採用されている。冗長構成のうち最も
シンプルな構成はパリティディスクを設けるものであ
り、例えば各ディスクドライブの同一物理セクタに書き
込まれた同一バイトの各データを排他的論理和演算処理
し、この演算結果に基づいてパリティデータを生成して
記録するものである。 【0004】図1の構成において、具体的に、ホストコ
ンピュータ6がディスクアレイコントローラ2に対して
データのライト命令を出すと、ディスクアレイコントロ
ーラ2はホストコンピュータ6から転送されたデータ
を、例えば図2に示すように4つに分割するとともに該
分割データに対して、例えば偶数パリティデータを生成
し、計5つの分割データを生成する。このようにして生
成されたデータは5台のディスクドライブ1に分割され
て記録される。 【0005】また、記録されたデータをリード処理する
場合には、通常、パリティデータを除く4つの分割デー
タを4台のディスクドライブ1から読み出し、これを結
合してホストコンピュータ6に転送する。 【0006】ここで、1台のディスクドライブが故障す
ると、図3に示すように故障していない4台のディスク
ドライブから分割されたデータ及びパリティデータを読
み出し、該データに対して偶数パリティ演算を行ってデ
ィスクドライブの故障によって再生できなくなった分割
データを復元し、復元されたデータを新規のディスクド
ライブに書き込むとともに、書き込んだデータを再び読
み出し、これを結合してホストコンピュータ6に転送す
る。 【0007】通常、パリティデータからデータエラーは
検出できるが、データの復元は不可能である。これに対
して、ディスクアレイ装置では故障したディスクドライ
ブを特定できる、即ちデータ上のエラー位置を特定でき
るため、データの復元が可能となる。 【0008】このように、ディスクアレイコントローラ
は、ディスクドライブが故障した場合、他のディスクド
ライブに記録しているパリティデータを用いて故障によ
って再生できない分割データの復元処理を行う。パリテ
ィデータは、パリティ専用のディスクドライブに記録さ
れるか又は各ディスクドライブに分割して記録される。
パリティ専用のディスクドライブに記録する方法はアク
セス速度の低下を招くため、通常、分割して記録する方
法が採用されている。 【0009】ディスクドライブが故障した場合、ディス
クアレイコントローラは交換された新規のディスクドラ
イブ上に、パリティデータを用いて故障したディスクド
ライブのデータを復元する。 【0010】ところで、ディスクアレイ装置は複数のデ
ィスクドライブを有するため、障害に対するデータの安
全性が高く、各ディスクドライブがデータを並列に転送
できるため、データの転送速度が高いという特徴を有す
るが、複数のディスクドライブを予め設置する必要があ
るため、システムの初期投資が大きいという欠点があ
る。特に、少なくとも5年間の保存が要求される医用画
像データの蓄積システム等のように、記憶容量が大きく
かつシステム導入時のデータの蓄積期間が長い場合に
は、システム規模を徐々に大きくしていくことが望まれ
ていた。 【0011】 【発明が解決しようとする課題】しかしながら、従来の
ディスクアレイ装置では、最初に設定したデータの分割
方式を途中で変更できないため、システム構築時に予想
される最大規模の台数のディスクドライブを設置する必
要があり、システムの初期投資が極めて大きくなるとい
う問題があり、また、業務の拡大等により当初の予想を
越える記憶容量が必要になった場合に対応できないとい
う問題があった。 【0012】本発明の目的は、システム導入時は必要最
低限の記憶容量でスタートでき、初期投資が少なくて済
み、しかもシステムの拡張に応じて記憶容量を任意に増
大できる拡張形ディスクアレイ装置を提供することにあ
る。 【0013】 【課題を解決するための手段】本発明では、前記課題を
解決するため、データを記録再生するN(N≧2の整
数)台のディスクドライブと、データをビット、バイ
ト、ワード等の単位で予め定めた数に分割する分割デー
タ生成部、該分割データ群に対して冗長データを生成す
る冗長データ生成部、ディスクドライブの故障によって
再生できなくなった分割データを冗長データを用いて復
元するデータ復元部、各ディスクドライブと分割データ
及び冗長データとの配置関係を記録しておく分割データ
管理テーブルを有するディスクアレイコントローラとを
具備し、ディスクアレイコントローラは、データを記録
する際、該データを分割データ生成部により予め定めた
分割数M(M≧2の整数)に分割し、冗長データ生成部
により該分割データ群に対する冗長データを生成すると
ともに、該分割された分割データ及び冗長データを複数
のディスクドライブに分散して記録し、該記録した分割
データ及び冗長データとディスクドライブとの配置関係
を分割データ管理テーブルに記録し、また、データを再
生する際、分割データ管理テーブルを基にして所要の分
割データを再生し、該分割データを結合して元のファイ
ルを再生し、また、ディスクドライブの障害によって分
割データが再生できない場合は、データ復元部により冗
長データを再生するとともに、該冗長データから障害の
ため再生できなかった分割データを修復して元のデータ
を再生する拡張形ディスクアレイ装置において、ディス
クドライブ数Nに対して、(N−1)が1もしくは分割
数Mの約数の関係にある場合は、M個の分割データを
(N−1)グループに分けるとともに、(N−1)グル
ープに分割された分割データ群に対する冗長データを生
成して、該(N−1)グループの分割データ及び冗長デ
ータをN台のディスクドライブに任意に分散して記録
し、(N−1)が2以上でかつMの約数の関係にない場
合は、Mの約数の中から(N−1)を越えない最大の約
数Kを抽出し、M個の分割データをKグループに分ける
とともに、Kグループに分割された分割データ群に対す
る冗長データを生成して、該Kグループの分割データ及
び冗長データを任意の(K+1)台のディスクドライブ
に分散して記録する拡張形ディスクアレイ装置を提案す
る。 【0014】前記構成によれば、システム導入時には2
台のディスクドライブで構成される、RAID−1レベ
ル(ミラーリングにより2台のディスクドライブに同じ
ものを書き、一方に障害が発生しても処理の続行を可能
にしたもの。)のディスクアレイ装置を構成でき、シス
テムの拡張に応じて3台以上のディスクドライブで構成
される、RAID−3レベル(n台のデータディスクド
ライブに対し、1台のパリティディスクドライブを持つ
ことにより、1台のドライブに障害が発生しても処理の
続行を可能にしたもの。1ビットもしくは1バイトの単
位でストライピングを行う。)又はRAID−5レベル
(n+1台のディスクドライブに対し、n台のデータと
1台のパリティを固定的に割り当てるのではなく、等分
にパリティを分散させることにより、2か所以上の同時
書き換えを可能にしたもの。)のディスクアレイ装置を
構成できるため、システム導入時に必要最低限の記憶容
量でスタートでき、初期投資が少なくて済み、しかもシ
ステムの拡張に応じて記憶容量を任意に増大でき、さら
にディスクドライブの拡張に伴う処理が簡単になるとと
もにファイル破壊の恐れがなくなる。 【0015】 【0016】 【発明の実施の形態】図4は本発明の拡張形ディスクア
レイ装置の実施の形態の一例、ここではファイルの分割
数Mを4とし、ディスクドライブ数Nは2(最小構成)
とした場合の例を示す。図中、1はディスクドライブ
(但し、N台の各ディスクドライブを区別する場合は、
#1,#2,……#Nと表すものとする。)、3は内部
バス、7は各ディスクドライブを制御するディスクアレ
イコントローラであり、各ディスクドライブ及びディス
クアレイコントローラ7は内部バスで接続され、これら
によってディスクアレイ装置8が構成されている。ま
た、ディスクアレイコントローラ7は、外部バス5を介
してホストコンピュータ6に接続されており、該ホスト
コンピュータ6からのリード/ライト命令に応じて各デ
ィスクドライブをアクセスする。 【0017】本例の場合、M=4に対して(N−1)=
1であることから、4分割されたデータは1つにグルー
プ化され、該グループ化された分割データ及び該グルー
プに対して生成された冗長データが2台のディスクドラ
イブ#1,#2に記録される。 【0018】図5はディスクアレイコントローラの詳細
を示すもので、図中、71はホストコンピュータ6から
転送されたデータを分割、ここでは4分割する分割デー
タ生成部、72は4つの分割データに対してパリティデ
ータを生成する冗長データ生成部、73は各ディスクド
ライブと4つの分割データ及び冗長データとの配置関係
を記録しておく分割データ配置管理テーブル、74は故
障したディスクを検出するとともにパリティ演算を行っ
てディスクドライブの故障によって再生できなくなった
分割データを復元するデータ復元部、75はディスクド
ライブをアクセスするための内部バスインタフェース、
76はホストコンピュータと接続するための外部バスイ
ンタフェースである。 【0019】本発明のディスクアレイコントローラ7に
おいても、各ディスクドライブが故障していない通常の
状態では図2で説明したようなデータの記録再生を行
う。また、いずれかのディスクドライブが故障した時
は、図3の場合と同様にデータの復元処理を行うが、従
来は分割されたデータが各々異なるディスクドライブに
個別に分散して記録されるのに対して、本発明では分割
されたデータがディスクドライブの台数に応じてグルー
プ化され、グループ単位で記録される点が異なる。 【0020】具体的に、図4の構成においてホストコン
ピュータ6がディスクアレイコントローラ7に対してフ
ァイルAのライト命令を出すと、ディスクアレイコント
ローラ7の分割データ生成部71はホストコンピュータ
6から転送されたファイルAを図4に示すように4つに
分割するが、ディスクドライブが2台の構成では該4つ
の分割データは1つにグループ化され、ディスクドライ
ブ#1に全て記録される。 【0021】これと同時に、ディスクアレイコントロー
ラ7の冗長データ生成部72で前記4つに分割されたフ
ァイルAの分割データに対するパリティデータ,,
,が生成され、ディスクドライブ#2に記録され
る。また、この後、ディスクアレイコントローラ7の分
割データ配置管理テーブル73には、ファイルAの分割
データがどのディスクドライブに配置されたかが記録さ
れる。 【0022】このように、ディスクアレイコントローラ
7は、ディスクドライブ数が2台の場合、ファイルを4
つに分割するが、4つの分割データが1つのグループと
して扱われるため、複数のディスクドライブに分散して
記録することはない。 【0023】この場合、ディスクドライブ#2には、偶
数パリティ方式の場合、ディスクドライブ#1に記録さ
れたファイルAと同一のデータが記録され、奇数パリテ
ィの場合にはビットを反転したファイルAと同一のデー
タが記録される。即ち、ビットの反転、非反転を無視す
れば、何れの場合もディスクドライブ#1に記録された
ファイルAと同一のデータが記録され、RAID−1レ
ベルに相当するミラーディスクが構成される。 【0024】ファイルを再生する場合には、4つに分割
されたデータを、例えばディスクドライブ#1から再生
し、ディスクアレイコントローラ7によって結合し、ホ
ストコンピュータ6に転送する。 【0025】ここで、ディスクドライブ#1に障害が発
生し、ファイルAの分割データが読み出せない場合は、
ディスクアレイコントローラ7のデータ復元部74によ
り、読み出せなかった分割データがディスクドライブ#
2から読み出され、ディスクアレイコントローラ7上で
結合される。 【0026】次に、ディスクアレイ装置8のディスクド
ライブが、図6に示すように3台に拡張されると、M=
4に対して(N−1)=2であり、また、これはMの約
数の関係にあることから、4分割されたデータは2つに
グループ化され、該グループ化された分割データ及び該
グループに対して生成された冗長データが3台のディス
クドライブ#1〜#3に記録される。 【0027】このようにディスクドライブ数が3台に拡
張されると、ディスクドライブが3台に拡張される前に
記録されたファイルに関しては、1つにグループ化され
た分割データを2つにグループ分けするとともに、2つ
にグループ化された分割データに対して新しい冗長デー
タを生成する必要がある。 【0028】この場合、本発明では、まず、ディスクド
ライブ#2に記録されたパリティデータから新しい1/
2の容量のパリティデータを生成し、ディスクドライブ
#3に記録する。具体的には、図6に示すようにファイ
ルAの分割データのうち、ディスクドライブ#1に1/
4,2/4を記録し、ディスクドライブ#2に残りの3
/4,4/4をグループ化して記録するとすれば、分割
データの1/4及び3/4に対応するパリティデータか
ら新しいパリティデータを生成し、さらに分割データ
の2/4及び4/4に対応するパリティデータから新し
いパリティデータを生成して、該2つのパリティデー
タ,を新しいパリティデータとしてグループ化し、
ディスクドライブ#3に記録する。 【0029】この後、ディスクドライブ#1から分割デ
ータの3/4及び4/4を削除し、ディスクドライブ#
2から分割データの1/4及び2/4を削除すれば、3
台のディスクドライブに対応したファイルの拡張が可能
になる。この後、分割データ配置管理テーブル73が書
き換えられる。 【0030】このように、3台のディスクドライブで構
成されたディスクアレイ装置では、実質的にファイルA
が分散されて記録されるため、RAID−3レベルの装
置が構成されることになる。 【0031】この際、アクセス速度の低下を招かないよ
うに、RAID−5レベルの装置に相当する構成を実現
することも容易である。この場合、例えばディスクアレ
イ装置に記録された一部のファイルについては、ディス
クドライブ#2に記録されたパリティデータから生成さ
れた新しいパリティデータ,をディスクドライブ#
2にそのまま記録し、ディスクドライブ#1に残された
分割データ3/4及び4/4をディスクドライブ#3に
転送する。 【0032】あるいはディスクドライブ#1に記録され
た分割データから新たにパリティデータ,を生成
し、ディスクドライブ#1に記録するとともに、ディス
クドライブ#2に記録されたパリティデータ(偶数パリ
ティの場合は分割データそのもの)から分割データ1/
4,2/4,3/4,4/4を生成し、このうちの3/
4及び4/4に相当する分割データをディスクドライブ
#3に転送する。この後、不要となった分割データを削
除する。これによってパリティデータが記録されるディ
スクドライブがファイル毎に異なって配置されるため、
RAID−5レベルの装置が構成される。 【0033】次に、ディスクアレイ装置8のディスクド
ライブが、図7に示すように4台に拡張されると、M=
4に対して(N−1)=3であり、この場合はMの約数
の関係を満たさないことから、Mの約数から3を越えな
い最大の約数、即ち2が選択され、4分割されたデータ
は2つにグループ化されたまま、該グループ化された分
割データ及び該グループに対して生成された冗長データ
が4台のディスクドライブのうちの任意の3台のディス
クドライブに記録される。 【0034】この際、ディスクアレイコントローラ7
は、アクセス速度の低下を招かないようにするため、分
割データやパリティデータをディスクドライブ間で移動
させ、4台のディスクドライブの使用記憶容量がほぼ均
等になるように操作する。 【0035】図7の例では、ディスクドライブ#3に記
録されていたパリティデータを新たに追加されたディス
クドライブ#4に転送し、不要となったパリティデータ
を削除している。この後、分割データ配置管理テーブル
73が書き換えられる。 【0036】さらに、ディスクアレイ装置8のディスク
ドライブが、図8に示すように5台に拡張されると、M
=4に対して(N−1)=4であり、また、これはMの
約数の関係にあることから、4分割されたデータは4つ
にグループ化され、該グループ化された分割データ及び
該グループに対して生成された冗長データが5台のディ
スクドライブに記録される。 【0037】このようにディスクドライブ数が5台に拡
張されると、ディスクドライブが5台に拡張される前に
記録されたファイルに関しては、2つにグループ化され
た分割データを4つにグループ分けするとともに、4つ
にグループ化された分割データに対して新しい冗長デー
タを生成する必要がある。 【0038】この場合、図8に示すようにファイルAの
分割データのうち、ディスクドライブ#1に1/4を記
録し、ディスクドライブ#2に3/4、ディスクドライ
ブ#3に2/4、ディスクドライブ#4に4/4を記録
するとすれば、まず、図7においてディスクドライブ#
4に記録されたパリティデータ,から新しい1/2
の容量のパリティデータを生成し、追加されたディス
クドライブ#5に記録する。 【0039】次に、分割データの1/4及び2/4を記
録しているディスクドライブ#1から2/4の分割デー
タをディスクドライブ#3に転送し、ディスクドライブ
#1から2/4の分割データを削除する。また、分割デ
ータの3/4及び4/4を記録しているディスクドライ
ブ#2から4/4の分割データをディスクドライブ#4
に転送し、ディスクドライブ#2から4/4の分割デー
タを削除する。この後、分割データ配置管理テーブル7
3が書き換えられる。 【0040】このようにすることによって5台のディス
クドライブに対応したファイルの拡張が可能になる。 【0041】ディスクドライブ数が6台以上となった場
合には、M=4に対して(N−1)≧5となり、再びM
の約数の関係を満たさなくなる。そこで、Mの約数から
5を越えない最大の約数、即ち4が選択され、4分割さ
れたデータは4つにグループ化されたまま、図7の場合
と同様に該グループ化された分割データ及び該グループ
に対して生成された冗長データが6台以上のディスクド
ライブのうちの任意の5台のディスクドライブに記録さ
れる。 【0042】このように、本発明によれば、ディスクア
レイ装置に記録するファイルを予め適当な数に分割して
おくため、ディスクドライブ数を拡張する際、従来、記
録されているファイルを一旦、読み出して結合し、拡張
されたディスクドライブ数に応じて再分割し、該再分割
されたデータに対して新たにパリティデータを生成し、
再びディスクドライブに記録していたのに対して、分割
データの転送及びパリティデータの縮退演算だけで拡張
処理が終了する。 【0043】また、この時、転送されるファイルの量
は、全ファイルのほぼ1/2であり、極めて少ない。さ
らに、パリティデータの縮退演算は、ほとんどの場合、
同一ディスクドライブに記録されたパリティデータ同士
に対するパリティ演算で終了する。このため、ディスク
ドライブの拡張に伴う処理が極めて簡単であり、高速に
実行できるだけでなく、既に記録されていたファイルを
破壊する危険性が極めて少ない。 【0044】また、ファイルの分割数が予め固定化され
ているため、ファイルの分割処理をファームウェア化す
る等して分割処理の高速化を図ることができるだけでな
く、ディスクドライブ数が拡張された場合にも分割デー
タ配置管理テーブルを再構築する必要がない。このた
め、ディスクドライブ数を拡張する際に、分割データ配
置管理テーブルが破壊されてファイルを復元できなくな
る危険性も全くない。 【0045】 【発明の効果】以上説明したように本発明によれば、デ
ィスクアレイ装置のディスクドライブ数を拡張する場合
にも、分割データ配置管理テーブルを書き換えることな
く、一部の分割データを転送し、パリティデータの縮退
演算を行うだけで拡張処理を終えることができるため、
ディスクアレイ装置を拡張する際にファイルが復元でき
なくなる等の障害が発生する危険性が極めて少なく、か
つ高速に拡張処理を実行できる特長がある。
Description: BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention has a plurality of disk drives, and even if any one of the drives fails, the disk drive is configured based on data recorded in another drive. The present invention relates to an improvement in a disk array device capable of restoring data. 2. Description of the Related Art FIG. 1 shows a basic configuration of a disk array device. A plurality of, here, N (N ≧ 2 integer) disk drives 1 (where N disk drives are distinguished from each other) , # 2,..., #N), a disk array controller 2 for controlling the disk drives # 1 to #N, and a disk drive #,
The disk array device 4 is composed of the internal bus 3 connecting the disk array controllers 1 to #N and the disk array controller 2. The disk array controller 2 is connected to the host computer 6 via the external bus 5 and accesses each of the disk drives # 1 to #N according to a read / write command from the host computer 6. In order to enhance the reliability of the disk array device, a redundant configuration is adopted so that even if one of the disk drives fails, the data recorded by the failed drive can be restored. The simplest configuration among the redundant configurations is to provide a parity disk. For example, exclusive OR operation is performed on each data of the same byte written in the same physical sector of each disk drive, and a parity is calculated based on the calculation result. This is to generate and record data. In the configuration shown in FIG. 1, when the host computer 6 issues a data write command to the disk array controller 2, the disk array controller 2 transmits the data transferred from the host computer 6 to the disk array controller 2, for example, as shown in FIG. As shown in (1), for example, even-number parity data is generated for the divided data to generate a total of five divided data. The data generated in this manner is divided into five disk drives 1 and recorded. [0005] When the recorded data is read, usually, four divided data excluding parity data are read from four disk drives 1, combined and transferred to the host computer 6. When one disk drive fails, the divided data and parity data are read from the four failed disk drives as shown in FIG. 3, and an even parity operation is performed on the data. Then, the divided data that cannot be reproduced due to the failure of the disk drive is restored, the restored data is written to a new disk drive, the written data is read again, and the data is combined and transferred to the host computer 6. Usually, a data error can be detected from parity data, but data cannot be restored. On the other hand, in the disk array device, a failed disk drive can be specified, that is, an error position on data can be specified, so that data can be restored. As described above, when a disk drive fails, the disk array controller uses the parity data recorded in another disk drive to perform a process of restoring the divided data that cannot be reproduced due to the failure. The parity data is recorded on a disk drive dedicated to parity or divided and recorded on each disk drive.
Since the method of recording data on a disk drive dedicated to parity lowers the access speed, a method of recording divided data is usually adopted. When a disk drive fails, the disk array controller restores the data of the failed disk drive on the new disk drive by using parity data. By the way, the disk array device has a plurality of disk drives, so data security against failure is high, and since each disk drive can transfer data in parallel, the data transfer speed is high. Since a plurality of disk drives need to be installed in advance, there is a disadvantage that the initial investment of the system is large. In particular, when the storage capacity is large and the data storage period when the system is introduced is long, such as a medical image data storage system that requires storage for at least five years, the system scale is gradually increased. It was desired. However, in the conventional disk array device, the initially set data division method cannot be changed in the middle, so that the maximum number of disk drives expected at the time of system construction is required. It is necessary to install the system, and there is a problem that the initial investment of the system becomes extremely large, and there is a problem that it is not possible to cope with a case where a storage capacity exceeding the initial expectation is required due to expansion of business or the like. An object of the present invention is to provide an expansion type disk array device which can start with a minimum storage capacity at the time of system introduction, requires a small initial investment, and can arbitrarily increase the storage capacity as the system is expanded. To provide. According to the present invention, in order to solve the above-mentioned problems, N (N ≧ 2 integer) disk drives for recording and reproducing data, and data such as bits, bytes, words, etc. Divided data generation unit that divides the divided data group into a predetermined number, a redundant data generation unit that generates redundant data for the divided data group, and restores the divided data that cannot be reproduced due to a disk drive failure using the redundant data A disk array controller having a divided data management table for recording an arrangement relationship between each disk drive and the divided data and the redundant data, wherein the disk array controller stores the data when recording the data. Is divided into a predetermined number of divisions M (an integer of M ≧ 2) by a divided data generation unit, and the redundant data generation unit In addition to generating redundant data for the divided data group, the divided data and the redundant data are recorded in a distributed manner on a plurality of disk drives, and the arrangement relationship between the recorded divided data and the redundant data and the disk drives is represented by the divided data. When the data is recorded in the management table and the data is reproduced, the required divided data is reproduced based on the divided data management table, and the divided files are combined to reproduce the original file. When the divided data cannot be reproduced by the data restoration unit, the data restoration unit reproduces the redundant data, and restores the divided data that could not be reproduced due to a failure from the redundant data to reproduce the original data . This
(N-1) is 1 or divided for the number N of drive
When there is a divisor relationship of number M, M divided data
(N-1) group and (N-1) group
Redundant data for the divided data group
To generate the divided data and the redundant data of the (N-1) group.
Data can be arbitrarily distributed and recorded on N disk drives
If (N-1) is 2 or more and there is no relationship with the divisor of M
The largest divisor of M that does not exceed (N-1)
Extract number K and divide M divided data into K groups
Together with the divided data group divided into K groups.
Generated redundant data, and the divided data and
(K + 1) disk drives and redundant data
We propose an extended disk array device that records in a distributed manner. According to the above configuration, when the system is introduced, 2
A RAID-1 level disk array device composed of two disk drives (one that writes the same data to two disk drives by mirroring and can continue processing even if one of the disks fails) RAID-3 level (can be configured as one disk drive by having one parity disk drive for n data disk drives) This enables processing to be continued even if a failure occurs. Striping is performed in units of 1 bit or 1 byte.) Or RAID-5 level (n data and one disk drive for n + 1 disk drives) Rather than fixedly assigning parity, disperse parity equally to enable simultaneous rewriting of two or more locations Thing.) Because it can configure the disk array device can be started at the required minimum storage capacity at the time of system installation, requires less initial investment, moreover it can arbitrarily increase the storage capacity in accordance with the expansion of the system, further
If the process of expanding the disk drive becomes easier,
Finally, there is no danger of file destruction . FIG. 4 shows an example of an embodiment of an extended disk array device according to the present invention. In this example, the number of file divisions M is 4, and the number of disk drives N is 2 (minimum). Constitution)
Here is an example of the case. In the figure, 1 is a disk drive (however, when discriminating N disk drives,
# 1, # 2,... #N. ), 3 an internal bus, 7 a disk array controller for controlling each disk drive, each disk drive and the disk array controller 7 are connected by an internal bus, and these constitute a disk array device 8. The disk array controller 7 is connected to the host computer 6 via the external bus 5 and accesses each disk drive in response to a read / write command from the host computer 6. In the case of this example, (N-1) =
Since it is 1, the data divided into four are grouped into one, and the grouped divided data and the redundant data generated for the group are recorded on two disk drives # 1 and # 2. Is done. FIG. 5 shows the details of the disk array controller. In FIG. 5, reference numeral 71 denotes a divided data generator for dividing the data transferred from the host computer 6; A redundant data generating unit 73 for generating parity data by using a divided data arrangement management table 73 for recording the arrangement relationship between each disk drive and the four divided data and the redundant data. A data restoration unit for restoring the divided data that cannot be reproduced due to the failure of the disk drive; 75, an internal bus interface for accessing the disk drive;
Reference numeral 76 denotes an external bus interface for connecting to a host computer. Also in the disk array controller 7 of the present invention, the recording and reproduction of data as described with reference to FIG. When any one of the disk drives fails, the data is restored in the same manner as in FIG. 3, but conventionally, the divided data is recorded separately on different disk drives. On the other hand, the present invention is different in that the divided data is grouped according to the number of disk drives and recorded in group units. Specifically, in the configuration of FIG. 4, when the host computer 6 issues a file A write command to the disk array controller 7, the divided data generation unit 71 of the disk array controller 7 is transferred from the host computer 6. Although the file A is divided into four as shown in FIG. 4, in a configuration having two disk drives, the four divided data are grouped into one and all are recorded in the disk drive # 1. At the same time, parity data for the divided data of the file A divided into four by the redundant data generation unit 72 of the disk array controller 7,
, Are generated and recorded on the disk drive # 2. Thereafter, the divided data arrangement management table 73 of the disk array controller 7 records on which disk drive the divided data of the file A is arranged. As described above, when the number of disk drives is two, the disk array controller 7
However, since the four divided data are treated as one group, they are not distributed and recorded on a plurality of disk drives. In this case, in the disk drive # 2, in the case of the even parity system, the same data as the file A recorded in the disk drive # 1 is recorded. The same data is recorded. That is, if the inversion and non-inversion of the bit are ignored, the same data as the file A recorded on the disk drive # 1 is recorded in any case, and a mirror disk corresponding to the RAID-1 level is configured. When reproducing a file, the data divided into four parts is reproduced from, for example, a disk drive # 1, combined by a disk array controller 7 and transferred to a host computer 6. If a failure occurs in the disk drive # 1 and the divided data of the file A cannot be read,
The divided data that could not be read by the data restoration unit 74 of the disk array controller 7 is stored in the disk drive #
2 and are combined on the disk array controller 7. Next, when the number of disk drives of the disk array device 8 is expanded to three as shown in FIG.
4, (N-1) = 2, and since this is a divisor of M, the data divided into four are grouped into two, and the divided data and The redundant data generated for the group is recorded on three disk drives # 1 to # 3. As described above, when the number of disk drives is expanded to three, with respect to files recorded before the number of disk drives is expanded to three, divided data grouped into one is divided into two groups. In addition, it is necessary to generate new redundant data for the divided data grouped into two. In this case, according to the present invention, first, the parity data recorded on the disk drive # 2 is rewritten with a new 1 /
The parity data having a capacity of 2 is generated and recorded in the disk drive # 3. Specifically, as shown in FIG. 6, of the divided data of file A, 1 /
4, 2/4, and the remaining 3 in disk drive # 2.
Assuming that / 4 and 4/4 are grouped and recorded, new parity data is generated from parity data corresponding to 1/4 and 3/4 of the divided data, and further divided into 2/4 and 4/4 of the divided data. New parity data is generated from the corresponding parity data, and the two parity data are grouped as new parity data;
Record on disk drive # 3. Thereafter, 3/4 and 4/4 of the divided data are deleted from the disk drive # 1, and the disk drive # 1 is deleted.
If 1/4 and 2/4 of the divided data are deleted from 2, 3
It is possible to expand files corresponding to one disk drive. Thereafter, the divided data arrangement management table 73 is rewritten. As described above, in the disk array device composed of three disk drives, the file A
Are recorded in a distributed manner, so that a RAID-3 level device is configured. At this time, it is easy to realize a configuration corresponding to a RAID-5 level device so as not to lower the access speed. In this case, for example, for some files recorded in the disk array device, new parity data generated from the parity data recorded in the disk drive # 2 is replaced by the disk drive # 2.
2, and the divided data 3/4 and 4/4 remaining in the disk drive # 1 are transferred to the disk drive # 3. Alternatively, parity data is newly generated from the divided data recorded in the disk drive # 1 and recorded in the disk drive # 1, and the parity data recorded in the disk drive # 2 (in the case of even parity, the parity data is divided). Data itself) to divided data 1 /
4, 2/4, 3/4, 4/4, and 3 /
The divided data corresponding to 4 and 4/4 is transferred to the disk drive # 3. Thereafter, the unnecessary divided data is deleted. As a result, the disk drive where the parity data is recorded is arranged differently for each file,
A RAID-5 level device is configured. Next, when the number of disk drives of the disk array device 8 is expanded to four as shown in FIG.
For (4), (N-1) = 3. In this case, since the relationship of the divisor of M is not satisfied, the largest divisor not exceeding 3 from the divisor of M, that is, 2, is selected. While the divided data is still grouped into two, the grouped divided data and the redundant data generated for the group are recorded on any three of the four disk drives Is done. At this time, the disk array controller 7
In order to prevent the access speed from being reduced, divided data and parity data are moved between disk drives, and operations are performed so that the used storage capacities of the four disk drives become substantially equal. In the example of FIG. 7, the parity data recorded on the disk drive # 3 is transferred to the newly added disk drive # 4, and the unnecessary parity data is deleted. Thereafter, the divided data arrangement management table 73 is rewritten. Further, when the number of disk drives of the disk array device 8 is expanded to five as shown in FIG.
= 4 and (N-1) = 4, and since this is a divisor of M, the data divided into four are grouped into four, and the divided data And the redundant data generated for the group are recorded on five disk drives. As described above, when the number of disk drives is expanded to five, for a file recorded before the number of disk drives is expanded to five, divided data grouped into two is divided into four groups. In addition to the division, it is necessary to generate new redundant data for the divided data grouped into four. In this case, as shown in FIG. 8, of the divided data of file A, 1/4 is recorded on disk drive # 1, 3/4 on disk drive # 2, 2/4 on disk drive # 3, Assuming that 4/4 is recorded in the disk drive # 4, first, in FIG.
4 from the parity data recorded in
Is generated and recorded in the added disk drive # 5. Next, the 1/4 and 2/4 of the divided data are transferred from the disk drives # 1 to 2/4 to the disk drive # 3. Delete the split data. Also, the disk drive # 2, which records 3/4 and 4/4 of the divided data, transmits the divided data of 4/4 to the disk drive # 4.
And deletes 4/4 divided data from disk drive # 2. Thereafter, the divided data arrangement management table 7
3 is rewritten. By doing so, it is possible to expand files corresponding to five disk drives. When the number of disk drives becomes six or more, (N−1) ≧ 5 for M = 4, and M
Does not satisfy the divisor relationship. Therefore, the largest divisor that does not exceed 5 from the divisor of M, that is, 4, is selected, and the data divided into four are grouped into four, and the grouped division is performed in the same manner as in FIG. The data and the redundant data generated for the group are recorded on any five of the six or more disk drives. As described above, according to the present invention, the file to be recorded in the disk array device is divided into an appropriate number in advance. Read, combine, subdivide according to the number of expanded disk drives, generate new parity data for the subdivided data,
The expansion process is completed only by transferring the divided data and performing the degeneration operation of the parity data, while the data is again recorded on the disk drive. At this time, the amount of the file to be transferred is almost half of all the files, which is extremely small. Furthermore, in most cases, the degeneration operation of parity data is
The processing ends with the parity operation on the parity data recorded on the same disk drive. For this reason, the processing involved in expanding the disk drive is extremely simple and can be executed at high speed, and the risk of destroying already recorded files is extremely low. Since the number of file divisions is fixed in advance, not only can the file division processing be implemented by firmware or the like to speed up the division processing, but also if the number of disk drives is increased. Also, there is no need to reconstruct the divided data arrangement management table. Therefore, when expanding the number of disk drives, there is no danger that the divided data arrangement management table is destroyed and the file cannot be restored. As described above, according to the present invention, even when the number of disk drives of the disk array device is expanded, a part of the divided data is transferred without rewriting the divided data arrangement management table. However, since expansion processing can be completed only by performing degeneration operation of parity data,
When the disk array device is expanded, there is a very low risk of occurrence of a failure such as a failure to restore a file, and the expansion process can be executed at high speed.

【図面の簡単な説明】 【図1】ディスクアレイ装置の基本構成図 【図2】通常のリード/ライト処理のようすを示す説明
図 【図3】故障時のリード/ライト処理のようすを示す説
明図 【図4】本発明のディスクアレイ装置(ドライブ2台)
の構成図 【図5】ディスクアレイコントローラの詳細を示す構成
図 【図6】本発明のディスクアレイ装置(ドライブ3台)
の構成図 【図7】本発明のディスクアレイ装置(ドライブ4台)
の構成図 【図8】本発明のディスクアレイ装置(ドライブ5台)
の構成図 【符号の説明】 1…ディスクドライブ(#1〜#N)、3…内部バス、
5…外部バス、6…ホストコンピュータ、7…ディスク
アレイコントローラ、8…ディスクアレイ装置、71…
分割データ生成部、72…冗長データ生成部、73…分
割データ配置管理テーブル、74…データ復元部、75
…内部バスインタフェース、76…外部バスインタフェ
ース。
BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a basic configuration diagram of a disk array device. FIG. 2 is an explanatory diagram showing a normal read / write process. FIG. 3 is an explanatory diagram showing a read / write process when a failure occurs. FIG. 4 is a disk array device (two drives) of the present invention.
FIG. 5 is a configuration diagram showing details of a disk array controller. FIG. 6 is a disk array device (three drives) of the present invention.
FIG. 7 is a disk array device of the present invention (four drives)
FIG. 8 shows a disk array device (five drives) of the present invention.
[Description of reference numerals] 1 ... disk drives (# 1 to #N), 3 ... internal bus,
5 external bus, 6 host computer, 7 disk array controller, 8 disk array device, 71
Divided data generation unit, 72: redundant data generation unit, 73: divided data arrangement management table, 74: data restoration unit, 75
... internal bus interface, 76 ... external bus interface.

───────────────────────────────────────────────────── フロントページの続き (72)発明者 井沢 伸芳 東京都新宿区西新宿3丁目19番2号 日 本電信電話株式会社内 (72)発明者 櫻井 康介 東京都新宿区西新宿3丁目19番2号 日 本電信電話株式会社内 (72)発明者 松本 隆司 東京都新宿区西新宿3丁目19番2号 日 本電信電話株式会社内 (72)発明者 白水 啓章 神奈川県横浜市中区不老町2丁目9番1 号 エヌ・ティ・ティ・インテリジェン トテクノロジ株式会社内 (72)発明者 河野 隆 神奈川県横浜市中区不老町2丁目9番1 号 エヌ・ティ・ティ・インテリジェン トテクノロジ株式会社内 (56)参考文献 特開 平7−141121(JP,A) 特開 平8−147111(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06F 3/06 - 3/08 G06F 12/00 - 12/12 G11B 20/10 - 20/16 ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Nobuyoshi Izawa 3-19-2 Nishi Shinjuku, Shinjuku-ku, Tokyo Nippon Telegraph and Telephone Corporation (72) Inventor Kosuke Sakurai 3-19 Nishi Shinjuku, Shinjuku-ku, Tokyo No. 2 Nippon Telegraph and Telephone Corporation (72) Inventor Takashi Matsumoto 3-19-2 Nishi-Shinjuku, Shinjuku-ku, Tokyo Nippon Telegraph and Telephone Corporation (72) Inventor Keisho Shiramizu Naka-ku, Yokohama-ku, Kanagawa Prefecture No. 2-9-1, NTT-Intelligent Technology Co., Ltd. (72) Inventor Takashi Kono 2-9-1, Furo-cho, Naka-ku, Yokohama-shi, Kanagawa Prefecture NTT-Intelligent (56) References JP-A-7-141121 (JP, A) JP-A-8-147111 (JP, A) (58) Fields investigated (Int. Cl. 7 , DB name) G 06F 3/06-3/08 G06F 12/00-12/12 G11B 20/10-20/16

Claims (1)

(57)【特許請求の範囲】 【請求項1】 データを記録再生するN(N≧2の整
数)台のディスクドライブと、 データをビット、バイト、ワード等の単位で予め定めた
数に分割する分割データ生成部、該分割データ群に対し
て冗長データを生成する冗長データ生成部、ディスクド
ライブの故障によって再生できなくなった分割データを
冗長データを用いて復元するデータ復元部、各ディスク
ドライブと分割データ及び冗長データとの配置関係を記
録しておく分割データ管理テーブルを有するディスクア
レイコントローラとを具備し、 ディスクアレイコントローラは、データを記録する際、
該データを分割データ生成部により予め定めた分割数M
(M≧2の整数)に分割し、冗長データ生成部により該
分割データ群に対する冗長データを生成するとともに、
該分割された分割データ及び冗長データを複数のディス
クドライブに分散して記録し、該記録した分割データ及
び冗長データとディスクドライブとの配置関係を分割デ
ータ管理テーブルに記録し、また、データを再生する
際、分割データ管理テーブルを基にして所要の分割デー
タを再生し、該分割データを結合して元のファイルを再
生し、また、ディスクドライブの障害によって分割デー
タが再生できない場合は、データ復元部により冗長デー
タを再生するとともに、該冗長データから障害のため再
生できなかった分割データを修復して元のデータを再生
する拡張形ディスクアレイ装置において、 ディスクドライブ数Nに対して、 (N−1)が1もしくは分割数Mの約数の関係にある場
合は、M個の分割データを(N−1)グループに分ける
とともに、(N−1)グループに分割された分割データ
群に対する冗長データを生成して、該(N−1)グルー
プの分割データ及び冗長データをN台のディスクドライ
ブに任意に分散して記録し、 (N−1)が2以上でかつMの約数の関係にない場合
は、Mの約数の中から(N−1)を越えない最大の約数
Kを抽出し、M個の分割データをKグループに分けると
ともに、Kグループに分割された分割データ群に対する
冗長データを生成して、該Kグループの分割データ及び
冗長データを任意の(K+1)台のディス クドライブに
分散して記録する ことを特徴とする拡張形ディスクアレ
イ装置。
(57) [Claims] [Claim 1] N (N ≧ 2 integer) disk drives for recording and reproducing data, and dividing data into a predetermined number in units of bits, bytes, words, etc. A divided data generation unit, a redundant data generation unit that generates redundant data for the divided data group, a data restoration unit that restores the divided data that cannot be reproduced due to a failure of the disk drive using the redundant data, A disk array controller having a divided data management table for recording the arrangement relationship between the divided data and the redundant data.
The data is divided by a division data generation unit into a division number M
(An integer of M ≧ 2), a redundant data generation unit generates redundant data for the divided data group,
The divided data and the redundant data are recorded in a distributed manner on a plurality of disk drives, the arrangement relationship between the recorded divided data and the redundant data and the disk drives is recorded in a divided data management table, and the data is reproduced. At the time of reproduction, the required divided data is reproduced based on the divided data management table, the divided data is combined to reproduce the original file, and if the divided data cannot be reproduced due to a disk drive failure, the data is restored. It reproduces the redundant data by part, in the expanded form a disk array apparatus for reproducing original data to repair the divided data could not be reproduced due to a failure from the redundant data to the disk drive number N, (N- If 1) is 1 or a divisor of the number of divisions M,
In this case, the M pieces of divided data are divided into (N-1) groups.
And the divided data divided into (N-1) groups
Generating redundant data for a group, the (N-1) group
Drive divided data and redundant data on N disk drives
When (N-1) is 2 or more and there is no divisor of M
Is the largest divisor of M that does not exceed (N-1)
Extract K and divide M data into K groups
Both are for the divided data group divided into K groups.
Generating redundant data, the divided data of the K group and
Redundant data to any (K + 1) stand disk drives
An extended disk array device characterized by recording in a distributed manner.
JP20025596A 1996-07-30 1996-07-30 Expansion type disk array device Expired - Lifetime JP3422004B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20025596A JP3422004B2 (en) 1996-07-30 1996-07-30 Expansion type disk array device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20025596A JP3422004B2 (en) 1996-07-30 1996-07-30 Expansion type disk array device

Publications (2)

Publication Number Publication Date
JPH1049313A JPH1049313A (en) 1998-02-20
JP3422004B2 true JP3422004B2 (en) 2003-06-30

Family

ID=16421339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20025596A Expired - Lifetime JP3422004B2 (en) 1996-07-30 1996-07-30 Expansion type disk array device

Country Status (1)

Country Link
JP (1) JP3422004B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122185A (en) 2005-10-25 2007-05-17 Fujitsu Ltd Data storage method and data storage device

Also Published As

Publication number Publication date
JPH1049313A (en) 1998-02-20

Similar Documents

Publication Publication Date Title
JP3316500B2 (en) Increase the number of drives in a RAID set while maintaining the integrity of the moved data
JP3242671B2 (en) Method for increasing the storage capacity of a level 5 RAID disk array, and an extended array made by such a method
JP3243223B2 (en) Storage device array
KR20030090735A (en) Method, apparatus, and program for providing hybrid disk mirroring and striping
US7818524B2 (en) Data migration systems and methods for independent storage device expansion and adaptation
JPH08212018A (en) Method and apparatus for dynamic extension of raid
JPH10111767A (en) Mass storage device
JP3096392B2 (en) Method and apparatus for full motion video network support using RAID
KR20030009047A (en) Magnetic disc drive, method for recording data, and method for reproducing data
JP2927282B2 (en) Disk array device
JPH10283124A (en) Recording and playback device
JPH10283124A5 (en)
US20030163757A1 (en) RAID subsystem and data input/output and recovery method in disk error mode
JP3422004B2 (en) Expansion type disk array device
JP3288724B2 (en) Method of tracking incomplete writes in a disk array, and disk storage system performing such a method
JP2004326357A (en) Storage system with redundant block, as well as control device, control method, program and recording medium for the storage system
CN101739308B (en) Image file generation method and its storage system
JP2014078143A (en) Video recorder and program thereof
JP2856054B2 (en) Disk array device
JP3128033B2 (en) Disk array device
JPH10254634A (en) Storage device and storage device recovery means
JPH06175787A (en) Disk array device
JP3304368B2 (en) Array disk device and control method therefor
JP2000149384A (en) Disk array device
JP3400318B2 (en) Data recording method for disk array device and medium recording the program

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090425

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090425

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100425

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100425

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110425

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110425

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120425

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120425

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130425

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140425

Year of fee payment: 11

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term