JP4294568B2 - ディスクアレイ装置及びその制御方法 - Google Patents

Description

本発明は、ディスクアレイ装置における障害発生時の運用情報採取技術に関する。

近年、情報インフラの発達に伴い取り扱うデータ量が日々増加し続けている情報化社会において、高信頼性（High Reliability）及び高可用性（High Availability）に富んだ情報システムを実現することが要求されている。このような情報システムを実現するために、常時大容量のデータアクセスやデータバックアップが可能なディスクアレイ装置が急速に普及している。ディスクアレイ装置は、複数のハードディスク（磁気ディスク装置）からなる大容量の記憶装置を備え、ホストコンピュータ等からの要求に従ってハードディスクに対してデータの読み出しや書き込みを行うものである。

このディスクアレイ装置の急速な普及に伴い、著しく性能向上したディスクアレイ装置では装置コンポーネントが多数搭載され、これらコンポーネントが複雑に関連して構成されている。そのため、ディスクアレイ装置にて障害が発生した場合には、原因箇所を特定することや影響範囲を認識することなどに多大な時間と労力を要する。

ディスクアレイ装置のようなストレージシステムの障害対策に関して、ディスクの制御を行う制御部を二重化し、一方の制御部が異常を検出した場合には、他方の制御部に処理を代行させるとともに当該一方の制御部は原因の特定処理を行うようにして通常処理の中断を回避する技術（例えば、特許文献１参照。）や、障害発生時にダンプデータの中から最新のダンプデータ取得直前に取得したログデータを予備ボリュームに移して予備ディスクの内容を修復する技術（例えば、特許文献２参照。）などが提案されている。

図５は、ディスクアレイ装置１０のハードウェア構成例を示すブロック図である。
図５に示すように、ディスクアレイ装置１０は、ＣＭ（Centralized Module）４０、４２、４４と、ＤＡ（Device Adapter）５０、５２と、ハードディスク２０、２２とをコンポーネントとして搭載している。それぞれのコンポーネントは、すべて多重化されており、仮に何れか１つのコンポーネントで障害が発生してもストレージシステムが継続して動作可能なように構成されている。なお、図５に示すディスクアレイ装置１０は一例であり、ディスクアレイ装置が搭載するＣＭ、ＤＡ、及びハードディスクの数はそれぞれ任意である。

ＣＭ４０、４２、４４は、ストレージシステム（ディスクアレイ装置１０）全体の管理・制御を行うモジュールである。ＣＭ４０、４２、４４は、冗長が組まれており、複数ＣＭ４０、４２、４４により並列動作を行うことが可能である。また、ＣＭ４０、４２、４４は、ホスト入出力（Ｉ／Ｏ）制御や装置保守制御などに必要なメッセージを各ＣＭ間にて互いに通信可能に構成されている。

ＤＡ５０、５２は、ＣＭ４０、４２、４４とハードディスク２０、２２とのインタフェース制御を行うものであり、ハードディスク２０、２２に対するデータの書き込み・読み出し制御を実際に行う。ＤＡ５０、５２は、冗長が組まれており、複数ＤＡ５０、５２により並列動作可能である。また、ＤＡ５０、５２は、ＣＭ４０、４２、４４とバス７６を介して接続されており、ＣＭとＤＡ間にてホストＩ／Ｏ制御や装置保守制御などに必要なメッセージを互いに通信可能となっている。

ハードディスク２０、２２は、ホストＩ／Ｏデータなどデータを格納する。複数のハードディスク２０、２２によりＲＡＩＤ（Redundant Array of Inexpensive Disks）構成を組むことにより冗長が保たれている。

ＣＭ４０、４２、４４によるハードディスク２０、２２へのデータの書き込みやハードディスク２０、２２からのデータの読み出しは、ＣＭ４０、４２、４４が通信ドライバを使用してＤＡ５０、５２にメッセージにて要求することで実行可能である。
ホストコンピュータ３０は、ディスクアレイ装置１０と多重化されたホストインタフェース９０、９１、９２を介して接続され、ディスクアレイ装置１０に対してデータアクセスやデータバックアップなどを行う。

なお、以下の説明では、ＣＭ４０、４２、４４のうち、ＣＭ４２をディスクアレイ装置１０に搭載される全ＣＭを管理するマスターＣＭとし、ＣＭ４０、４４をマスターＣＭ４２の管理を受けるスレーブＣＭとする。また、説明の便宜上、障害発生時の動作説明等においては、スレーブＣＭ４０で異常が発生したものとして説明する。

図６（ａ）、（ｂ）は、図５に示したディスクアレイ装置１０にてＣＭ４０に異常が発生した場合の処理動作を示すシーケンス図である。なお、図６（ａ）、（ｂ）に示すシーケンス図において、ハッチングを施した矩形部分は、その機能部が何らかの動作を行っていることを示している（以下に示す各シーケンス図においても同様。）。

図６（ａ）に示すように、ＣＭ４０で実行しているプログラムにて０除算や不正アドレスアクセスといった想定していない動作などが行われ、自ＣＭ４０で異常を検出した（Ｓ１０１）場合には、ＣＭ４０は、後程障害解析を行うためのＣＭ運用情報データを自ＣＭ４０に搭載されている不図示の不揮発性メモリ（ＮＶＲＡＭ：nonvolatile memory）などに格納する（Ｓ１０２）。

ＣＭ４０は、ホストＩ／Ｏ制御や装置保守制御などストレージシステムに影響を与えないようにするため、ＣＭ運用情報データを不揮発性メモリに格納した後、ストレージシステム（他のＣＭ４２、４４）から切り離されるまですべての制御を停止し何ら制御を行わない。

また、図６（ｂ）に示すように、各ＣＭ４０、４２、４４間で互いに監視し合うパトロール動作を基に、異常が発生したＣＭ４０を異常が発生していないマスターＣＭ４２が検知した（Ｓ１５１）場合には、マスターＣＭ４２は、異常が発生していない他のスレーブＣＭ４４にＣＭ４０の異常を通知する（Ｓ１５２）。通知を受けたＣＭ４４は、この通知を基にＣＭ４０の異常を検知し、検知以前に異常が発生したＣＭ４０から受けたメッセージにより動作していた制御を即座に停止するとともに、以後異常が発生したＣＭ４０からのすべてのメッセージを捨てる（Ｓ１５３）。

また、マスターＣＭ４２は、ＤＡ５０、５２にＣＭ４０の異常を通知する（Ｓ１５４）。通知を受けたＤＡ５０、５２は、上述したＣＭ４４と同様に、この通知を基にＣＭ４０の異常を検知し、検知以前に異常が発生したＣＭ４０から受けたメッセージにより動作していた制御を即座に停止するとともに、以後異常が発生したＣＭ４０からのすべてのメッセージを捨てる（Ｓ１５５）。

その後、マスターＣＭ４２は、異常が発生したＣＭ４０が壊れたホストＩ／Ｏデータをハードディスク２０、２２に書き込むようなストレージシステムに与える影響を抑制するため、異常が発生したＣＭ４０をストレージシステムから即座に切り離す（Ｓ１５６）。

特開２００２−７０７７号公報 特開平１１−１０２２６２号公報

上述した従来の技術では、ＣＭ４０が自ら異常を検出した場合、自ＣＭ４０に搭載されている不揮発性メモリにＣＭ運用情報データを格納している。しかしながら、ＣＭに搭載可能な不揮発性メモリの記憶容量にはコスト的に制限等があり、不揮発性メモリにはストレージシステムを制御するために必要な情報データなどの問題発生原因に関する有用なＣＭ運用情報データを格納する領域を十分に確保することはできない。したがって、障害発生時には限られたＣＭ運用情報データを格納することしかできないため、このデータを使用した障害解析に多大な時間と労力を要してしまう。

そこで、十分な格納領域を確保できるハードディスク２０、２２に問題発生原因に関する有用なＣＭ運用情報データを格納する方法が考えられる。この場合には、自ＣＭ４０で異常が発生したことを検出したＣＭ４０が、通信ドライバを使用してＤＡ５０又は５２にＣＭ運用情報データを書き込むメッセージ要求を行い、ハードディスク２０、２２にＣＭ運用情報データを格納するとする。

図７〜図９は、図５に示したディスクアレイ装置１０にて異常が発生したＣＭ４０のＣＭ運用情報データをハードディスク２０、２２に格納すると仮定した場合の処理動作を示すシーケンス図である。

図７に示すように、ＣＭ４０が自ＣＭ４０で異常が発生したことを検出すると（Ｓ２０１）、ＣＭ４０は、ハードディスク２０、２２へのＣＭ運用情報データの書き込み要求を、通信ドライバを用いてＤＡ５０、５２に対して行う（Ｓ２０２）。この要求により、ＣＭ４０のＣＭ運用情報データがハードディスク２０、２２に書き込まれる（Ｓ２０３）。以降、同様にしてＣＭ４０が、ＣＭ運用情報データの書き込み要求をＤＡ５０、５２に対して繰り返し行うことで、ハードディスク２０、２２にＣＭ運用情報データが順次書き込まれていく（Ｓ２０４〜Ｓ２０７）。

このようにして、異常が発生したＣＭ４０がＤＡ５０、５２に対してＣＭ運用情報データの書き込み要求を行っている最中に、マスターＣＭ４２がＣＭ４０に発生した異常を検知した（Ｓ２０８）場合には、マスターＣＭ４２は、異常が発生したＣＭ４０をストレージシステムから即座に切り離す（Ｓ２０９）。したがって、ＣＭ４２はＣＭ４０によるＣＭ運用情報データの書き込み要求処理を途中で中断することとなり、異常が発生したＣＭ４０は、ＣＭ運用情報データをハードディスク２０、２２に書き込むことができない。

また、図８に示すように、図７と同様にしてＣＭ４０が自ＣＭ４０で異常が発生したことを検出し（Ｓ２５１）、異常が発生したＣＭ４０がハードディスク２０、２２へのＣＭ運用情報データの書き込み要求をＤＡ５０、５２に対して行っている（Ｓ２５１〜Ｓ２５７）最中に、マスターＣＭ４２がＣＭ４０に発生した異常を検知し（Ｓ２５８）、異常が発生していない他のスレーブＣＭ４４及びＤＡ５０、５２にＣＭ４０の異常を通知する（Ｓ２５９、Ｓ２６１）とする。

この場合には、通知を受けたＣＭ４４及びＤＡ５０、５２は、この通知を基にＣＭ４０の異常を検知し、検知以前に異常が発生したＣＭ４０から受けたメッセージにより動作していた制御を即座に停止するとともに、以後異常が発生したＣＭ４０からのすべてのメッセージを捨てる（Ｓ２６０、Ｓ２６２）。そのため、その後のＣＭ４０からＤＡ５０、５２へのＣＭ運用情報データの書き込み要求（Ｓ２６３）は、ＤＡ５０、５２で捨てられ（Ｓ２６４）、異常が発生したＣＭ４０は、ＣＭ運用情報データをハードディスク２０、２２に書き込むことができない。

また、図９に示すように、ＣＭ４０で異常が発生した際に、ＣＭ４０が有する通信ドライバ制御用のデータ領域が破壊された場合には、ＣＭ４０が自ＣＭ４０で異常が発生したことを検出し（Ｓ３０１）、ＣＭ４０の通信ドライバを用いてＣＭ運用情報データの書き込み要求をＤＡ５０、５２に対して行っても、異常が発生したＣＭ４０とＤＡ５０、５２とは通信できない（Ｓ３０２）。すなわち、ＣＭ４０からハードディスク２０、２２へのデータ書き込み自体が不可能であるため、異常が発生したＣＭ４０は、ＣＭ運用情報データをハードディスク２０、２２に書き込むことができない。

このように、従来のディスクアレイ装置では、異常が発生したＣＭ４０によるストレージシステムへの影響を予防する措置が設けられているため、十分な格納領域を確保できるハードディスク２０、２２に問題発生原因に関する有用なＣＭ運用情報データを格納しようとしても書き込みを実現可能な手段がなかった。
本発明は、上記事情に鑑みてなされたものであり、ディスクアレイ装置にて障害が発生した場合に、装置の信頼性及び可用性を保ちながらも運用情報データを十分に採取できるようにすることを目的とする。

本発明のディスクアレイ装置は、自装置全体の制御を行う中央制御手段とディスク装置と、その間のインタフェース制御を行うインタフェース制御手段とがそれぞれが多重化され、上記中央制御手段は、いずれか他の中央制御手段にて発生した異常を検知すると、当該異常が発生した中央制御手段の異常をインタフェース制御手段に通知する異常検知通知手段と、当該異常が発生した中央制御手段に係る運用情報データのディスク装置への書き込みの完了通知を当該異常が発生した中央制御手段から受信すると、当該異常が発生した中央制御手段の切り離し動作を行う切り離し制御手段とを有し、上記インタフェース制御手段は、異常検知通知手段からの異常通知を受けると、当該異常が発生した中央制御手段に係る運用情報データのディスク装置への書き込み準備が完了した旨を示す書き込み要求受け付け通知を当該異常が発生した中央制御手段に通知する書き込み要求受け付け通知手段と、書き込み要求受け付け通知に基づいて送信される当該異常が発生した中央制御手段に係る運用情報データをディスク装置へ書き込むデータ書き込み手段とを有する。

本発明によれば、中央制御手段にて異常が発生した場合に、運用情報データのディスク装置への書き込み処理を行っている途中で処理が中断されることなく、問題発生原因に関する有用な運用情報データを十分な格納領域を有するディスク装置に書き込むことができる。したがって、ホストＩ／Ｏデータに影響を与えず且つストレージシステムを停止させることなく、装置の信頼性及び可用性を保ちながらも、問題発生原因に関する有用な障害情報データを十分に採取することができる。

以下、本発明の実施形態を図面に基づいて説明する。
本発明の実施形態によるディスクアレイ装置のハードウェア構成は、図５に示したディスクアレイ装置１０と同様であるので、説明は省略する。なお、ディスクアレイ装置のＣＭ４０、４２、４４が本発明の中央制御手段に相当し、ＤＡ５０、５２が本発明のインタフェース制御手段に相当し、ハードディスク２０、２２が本発明のディスク装置に相当する。

図１は、本実施形態によるディスクアレイ装置の機能構成例を示すブロック図である。なお、図１においては、障害発生時におけるＣＭ運用情報データの採取に係る機能についてのみ示しており、動作の流れも合わせて示している（時間方向は左側から右側）。

また、図１においては、説明の便宜上、各機能ブロックをそれが機能するＣＭのみに図示しているため、異常が発生すると仮定するスレーブＣＭ（異常発生ＣＭ）４０、マスターＣＭ４２及びスレーブＣＭ４４の構成は互いに異なっている。しかし、何れのＣＭ４０、４２、４４も、マスターＣＭになったり異常が発生したりする可能性があるので、各ＣＭ４０、４２、４４は図１に示したすべての機能部をそれぞれ備えている。

異常発生ＣＭ４０は、異常検出・制御停止部１０１、通信パス再構築部１０２、異常検出通知部１０３、ＣＭ運用情報データ書き込み要求部１０５、ＣＭ運用情報データ書き込み終了通知部１０６、及び通信ドライバ１０４を有する。

異常検出・制御停止部１０１は、ＣＭの異常を検出（検知）し、当該ＣＭからのメッセージ要求等に基づく制御を停止する。この異常検出・制御停止部１０１は、自ＣＭがマスターＣＭであるか又はスレーブＣＭであるか、さらにスレーブＣＭである場合には正常なＣＭか又は異常発生ＣＭかに応じて行う制御が異なる。異常発生ＣＭ４０の異常検出・制御停止部１０１は、自ＣＭ４０で異常が発生した場合にそれを検出し、自ＣＭ４０にて動作していたホストＩ／Ｏ制御や装置保守制御などすべての制御を停止する。

通信パス再構築部１０２は、異常検出・制御停止部１０１において自ＣＭ４０の異常が検出された場合に、自ＣＭ４０とＤＡ５２（５０）との通信パスを再構築する。この通信パスの再構築では、例えばＤＡ５２（５０）とのデータ通信の経過等を記憶するメモリの初期化等を行う。

異常検出通知部１０３は、異常検出・制御停止部１０１での検出・検知結果を基に、他のＣＭに異常検出を通知する。この異常検出通知部１０３も、自ＣＭがマスターＣＭであるか異常発生ＣＭであるかによって行う制御が異なり、異常発生ＣＭ４０の異常検出・制御停止部１０１は、異常検出・制御停止部１０１において自ＣＭ４０の異常が検出された場合に他のすべてのＣＭ４２、４４に異常検出を通知する。

ＣＭ運用情報データ書き込み要求部１０５は、ＤＡ５２（５０）に対して、ハードディスク２２（２０）への自ＣＭ４０のＣＭ運用情報データの書き込み要求を行う。
ＣＭ運用情報データ書き込み終了通知部１０６は、ＣＭ運用情報データ書き込み要求部１０５にてＣＭ運用情報データの書き込みが終了した場合に、ＣＭ運用情報データの書き込み終了通知をマスターＣＭ４２に通知する。

通信ドライバ１０４は、各ＣＭ４２、４４及びＤＡ５２（５０）と通信を行うためのドライバである。異常発生ＣＭ４０の通信ドライバ１０４は、異常検出・制御停止部１０１において自ＣＭ４０の異常が検出された場合には、以後ＣＭ運用情報データの書き込み要求受け付け通知以外のメッセージを捨てるように設定する。

マスターＣＭ４２は、異常検出・制御停止部１１１、異常検出通知部１１２、ＣＭ切り離し部１１３、及び通信ドライバ１１４を有する。
異常検出・制御停止部１１１は、上述した異常検出・制御停止部１０１と同様のものである。マスターＣＭ４２の異常検出・制御停止部１１１は、異常発生ＣＭ４０からの異常検出通知を基にＣＭ４０の異常を検出し、検知以前に異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止する。

異常検出通知部１１２は、上述した異常検出通知部１０３と同様のものである。マスターＣＭ４２の異常検出通知部１１２は、異常検出・制御停止部１１１によりＣＭ４０の異常を検出した場合に、異常発生ＣＭ４０を除く他のスレーブＣＭ４４、及びＤＡ５２（５０）に異常検出を通知する。

ＣＭ切り離し部１１３は、異常発生ＣＭ４０からのＣＭ運用情報データの書き込み終了通知を基に、異常発生ＣＭ４０をストレージシステムから切り離す。
通信ドライバ１１４は、各ＣＭ４０、４４及びＤＡ５２（５０）と通信を行うためのドライバである。マスターＣＭ４２の通信ドライバ１１４は、異常検出・制御停止部１１１によりＣＭ４０の異常を検出した場合に、以後ＣＭ４０から受けるメッセージにおいてＣＭ運用情報データの書き込み終了通知以外のメッセージを捨てるように設定する。

スレーブＣＭ４４は、異常検出・制御停止部１２１、及び通信ドライバ１２２を有する。
異常検出・制御停止部１２１は、上述した異常検出・制御停止部１０１と同様のものである。スレーブＣＭ４４の異常検出・制御停止部１２１は、マスターＣＭ４２からの異常検出通知を基にＣＭ４０の異常を検出し、検知以前に異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止する。

通信ドライバ１２２は、各ＣＭ４０、４２及びＤＡ５２（５０）と通信を行うためのドライバである。スレーブＣＭ４４の通信ドライバ１２２は、異常検出・制御停止部１２１によりＣＭ４０の異常を検出した場合に、以後ＣＭ４０から受けるメッセージを捨てるように設定する。

ＤＡ５２（５０）は、異常ＣＭ要求制御停止部１３１、通信パス再構築部１３２、ＣＭ運用情報データ書き込み要求受け付け通知部１３３、データ書き込み部１３４、及び通信ドライバ１３５を有する。

異常ＣＭ要求制御停止部１３１は、マスターＣＭ４２からの異常検出通知を基に、異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止する。
通信パス再構築部１３２は、異常発生ＣＭ４０との通信パスを再構築する。この通信パスの再構築においても、例えばＣＭ４０とのデータ通信の経過等を記憶するメモリの初期化等を行う。

ＣＭ運用情報データ書き込み要求受け付け通知部１３３は、ＤＡ５２（５０）においてＣＭ運用情報データの書き込み要求の受け付け準備（例えば、通信パス再構築部１３２による通信パスの再構築等）が完了したことを示す書き込み要求受け付け通知を異常発生ＣＭ４０に通知する。
データ書き込み部１３４は、異常発生ＣＭ４０からのＣＭ運用情報データの書き込み要求を受け、異常発生ＣＭ４０のＣＭ運用情報データをハードディスク２２（２０）に書き込む。

通信ドライバ１３５は、各ＣＭ４０、４２、４４と通信を行うためのドライバである。通信ドライバ１３５は、マスターＣＭ４２からの異常検出通知を受けた場合に、以後ＣＭ４０から受けるメッセージにおいてＣＭ運用情報データの書き込み要求以外のメッセージを捨てるように設定する。

次に、本実施形態によるディスクアレイ装置における障害発生時のＣＭ運用情報データの採取動作について説明する。
図２は、本実施形態によるディスクアレイ装置にてＣＭ４０に異常が発生した場合の処理動作を示すシーケンス図である。

ＣＭ４０にて異常が発生した場合、ＣＭ４０の異常検出・制御停止部１０１は、自ＣＭ４０で異常が発生したことを検出し、自ＣＭ４０にて行っていたホストＩ／Ｏ制御や装置保守制御などすべての制御を停止する（Ｓ１）。そして、異常発生ＣＭ４０の通信パス再構築部１０２は、ＤＡ５２（５０）との通信パスを再構築する（Ｓ２）。また、異常発生ＣＭ４０の通信ドライバ１０４は、以後受けるメッセージがＤＡ５２（５０）からのＣＭ障害情報データの書き込み要求受け付け通知以外である場合には、そのメッセージを捨てるように設定する（Ｓ３）。

このＳ１〜Ｓ３の処理が完了すると、異常発生ＣＭ４０の異常検出通知部１０３は、ＣＭ４０の通信ドライバ１０４を用いて他のすべてのＣＭ４２、４４に異常検出を通知する（Ｓ４）。なお、各ＣＭ４０、４２、４４間で互いに監視し合うパトロール動作を基に、マスターＣＭ４２がＣＭ４０の異常を検知し、それが通知されて異常発生ＣＭ４０がＳ１〜Ｓ３の処理を行った場合には、Ｓ１〜Ｓ３の処理が完了した旨を異常検出として通知する。

マスターＣＭ４２は、異常発生ＣＭ４０からの異常検出通知を受けると、異常検出・制御停止部１１１がＣＭ４０の異常を検知し、検知以前に異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止するとともに、通信ドライバ１１４が、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ障害情報データの書き込み終了通知以外である場合には、そのメッセージを捨てるように設定する（Ｓ５）。

その後、マスターＣＭ４２の異常検出通知部１１２は、ＣＭ４２の通信ドライバを用いて、異常発生ＣＭ４０を除くスレーブＣＭ４４及びＤＡ５２（５０）に異常検出を通知する。このとき、マスターＣＭ４２のＣＭ切り離し部１１３は、異常発生ＣＭ４０をストレージシステムから即座に切り離す制御は行わない。したがって、異常発生ＣＭ４０は、ストレージシステムから切り離された状態ではなく、ＣＭ運用情報データの書き込み要求をＤＡ５２（５０）に対して行うことができる。

マスターＣＭ４２からの異常検出通知を受けたスレーブＣＭ４４は、異常検出・制御停止部１２１がこの通知を基にＣＭ４０の異常を検知して、検知以前に異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止するとともに、通信ドライバ１２２が、以後、異常発生ＣＭ４０から受けるメッセージを捨てるように設定する（Ｓ７）。

また、ＤＡ５２（５０）はマスターＣＭ４２からの異常検出通知を受けると、ＤＡ５２（５０）の通信ドライバ１３５は、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み要求以外である場合には、そのメッセージを捨てるように設定する（Ｓ８）。そして、ＤＡ５２（５０）の異常ＣＭ要求制御停止部１３１は、異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止する（Ｓ９）。さらに、ＤＡ５２（５０）の通信パス再構築部１３２は、異常発生ＣＭ４０との通信パスを再構築する（Ｓ１０）。

その後、ＤＡ５２（５０）のＣＭ運用情報データ書き込み受け付け通知部１３３は、異常発生ＣＭ４０からのＣＭ運用情報データの書き込み要求の受け付け準備が完了したことを、ＤＡ５２（５０）の通信ドライバ１３５を用いて異常発生ＣＭ４０に通知する（Ｓ１１）。

異常発生ＣＭ４０の通信ドライバ１０４は、ＤＡ５２（５０）から受けたメッセージがＣＭ運用情報データの書き込み要求受け付け通知であるか否かを確認する。この確認の結果、ＤＡ５２（５０）から受けたメッセージがＣＭ運用情報データの書き込み要求受け付け通知であった場合には、ハードディスク２２（２０）にＣＭ運用情報データを書き込むための準備がＤＡ５２（５０）において完了している。

よって、異常発生ＣＭ４０のＣＭ運用情報データ書き込み要求部１０５は、ＣＭ運用情報データの書き込み要求受け付け通知を出したＤＡ５２（５０）に対してＣＭ運用情報データの書き込み要求を通信ドライバ１０４を用いて開始する（Ｓ１２）。このとき、異常発生ＣＭ４０のＣＭ運用情報データ書き込み要求部１０５は、問題発生原因に関する有用なＣＭ運用情報データとして、自ＣＭに搭載されているメモリに記憶されているホストＩ／Ｏ制御情報や装置保守制御情報などストレージシステムを制御するために必要な情報データの書き込みを要求する。

ＤＡ５２（５０）の通信ドライバ１３５は、異常発生ＣＭ４０から受けたメッセージがＣＭ運用情報データの書き込み要求であることを確認し、データ書き込み部１３４は、異常発生ＣＭ４０から供給されるＣＭ運用情報データをハードディスク２２（２０）に書き込む。

以降、同様にして異常発生ＣＭ４０がＤＡ５２（５０）に対してＣＭ運用情報データの書き込み要求を繰り返し行い、ＣＭ４０のＣＭ運用情報データがハードディスク２２（２０）に順次書き込まれる（Ｓ１２〜Ｓ２１）。

そして、異常発生ＣＭ４０のＣＭ運用情報データ書き込み要求部１０５によるＣＭ運用情報データの書き込み要求が終了すると、異常発生ＣＭ４０のＣＭ運用情報データ書き込み終了通知部１０６は、ＣＭ運用情報データの書き込み終了通知を通信ドライバ１０４よりマスターＣＭ４２に通知する（Ｓ２２）。

マスターＣＭ４２の通信ドライバ１１４は、異常発生ＣＭ４０から受けたメッセージがＣＭ運用情報データの書き込み終了通知であることを確認する。そして、マスターＣＭ４２のＣＭ切り離し部１１３は、異常発生ＣＭ４０をストレージシステムから切り離す（Ｓ２３）。

図３及び図４は、本実施形態における障害発生時のＣＭ運用情報データの採取方法を具体的に説明するための図である。
図３に示すように、ＣＭ４０において、ホストＩ／Ｏ制御情報や装置保守制御情報などストレージシステムを制御するために必要な情報データがＣＭに搭載されているメモリ４１に記憶されている。ＣＭ４０は、自ＣＭ４０で異常が発生したことを検出した場合、自ＣＭ４０にて動作していたホストＩ／Ｏ制御や装置保守制御などすべての制御を停止する。そして、異常発生ＣＭ４０は、ＤＡ５０及び５２との通信パスを再構築し、異常が発生していないＣＭ４２、４４に異常検出Ｓ５１を通知する。また、異常発生ＣＭ４０は、以後、受けるメッセージがＤＡ５０、５２からのＣＭ運用情報データの書き込み要求受け付け通知以外であった場合、そのメッセージを捨てるように設定する。

マスターＣＭ４２は、異常発生ＣＭ４０からの異常検出通知Ｓ５１を受け、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み終了通知以外であった場合、そのメッセージを捨てるように設定する。そして、マスターＣＭ４２は、異常発生ＣＭ４０の異常検出Ｓ５２をスレーブＣＭ４４及びＤＡ５０，５２に通知する。

スレーブＣＭ４４は、異常発生ＣＭ４０で発生した異常検出通知をマスターＣＭ４２から受け、ＣＭ４０からのメッセージにより動作していたすべての制御を停止するとともに、以後、異常発生ＣＭ４０から受けるメッセージを捨てるように設定する。

ＤＡ５０、５２は、異常発生ＣＭ４０で発生した異常検出通知をマスターＣＭ４２から受け、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み要求以外であった場合、そのメッセージを捨てるように設定する。そして、ＤＡ５０、５２は、異常発生ＣＭ４０から受けたメッセージにより動作していた制御を停止する。さらに、ＤＡ５０及び５２は、異常発生ＣＭ４０との通信パスを再構築し、その後ＣＭ運用情報データの書き込み要求の受け付け準備が完了したことを示す書き込み要求受け付け通知Ｓ５３を異常発生ＣＭ４０に通知する。

異常発生ＣＭ４０は、受けたメッセージがＣＭ運用情報データの書き込み要求受け付け通知であることを確認し、メモリ４１に記憶されているホストＩ／Ｏ制御情報や装置保守制御情報などストレージシステムを制御するために必要な情報データをＣＭ運用情報データとしてＤＡ５２に対してＣＭ運用情報データの書き込み要求Ｓ５４を開始する。

ＤＡ５２は、受けたメッセージがＣＭ運用情報データの書き込み要求であることを確認し、ディスクアレイ装置のハードディスク２２にＣＭ運用情報データＳ５４を書き込む。
このようにして、異常発生ＣＭ４０のメモリ４１に載っていたホストＩ／Ｏ制御情報や装置保守制御情報などストレージシステムを制御するために必要な情報データが、問題発生原因に関する有用なＣＭ運用情報データとしてハードディスク２２に格納される。

そして、ＣＭ運用情報データの書き込み要求が終了した場合、異常発生ＣＭ４０は、ＣＭ運用情報データの書き込み終了通知Ｓ５５をマスターＣＭ４２に通知する。マスターＣＭ４２は、受けたメッセージがＣＭ運用情報データの書き込み終了通知であることを確認し、異常発生ＣＭ４０をストレージシステムから切り離す（Ｓ５６）。

図４に示すように、保守者がハードディスク２２に格納されたＣＭ運用情報データをディスクアレイ装置１０から採取する場合、ＣＭ運用情報データ採取のコマンドなどをディスクアレイ装置１０に接続した保守装置６０から入力する。ディスクアレイ装置１０に接続された保守装置６０は、ＣＭ運用情報データ採取のコマンドなどを受けて、ＣＭ運用情報データ採取要求Ｓ６１をディスクアレイ装置１０に行う。

ＣＭ運用情報データ採取要求を受けたディスクアレイ装置１０のマスターＣＭ４２は、ＣＭ運用情報データの読み出し要求Ｓ６２をＤＡ５０に行う。そして、ＤＡ５０は、ディスクアレイ装置１０のハードディスク２２に格納されたＣＭ運用情報データを読み出す（Ｓ６３、Ｓ６４）。ハードディスク２２から読み出されたＣＭ運用情報データは、ＤＡ５０、及びマスターＣＭ４２を介して保守装置６０に採取される（Ｓ６４〜Ｓ６６）。

以上のようにして、ディスクアレイ装置１０のハードディスク２２に格納されているＣＭ運用情報データは、保守装置６０からのＣＭ運用情報データ採取要求により保守装置６０のディスク６１などに格納され、後ほど障害解析に使用される。

以上のように本実施形態によれば、ＣＭ４０で異常が発生しても、異常検出通知を受けたマスターＣＭ４２が異常発生ＣＭ４０のストレージシステムからの切り離しを即座に実行しないので、処理の完了前に中断されることなく、異常が検出されたＣＭ４０が問題発生原因に関する有用なＣＭ運用情報データをハードディスク２０、２２に書き込む処理を実行することができる。

また、異常が発生していないマスターＣＭ４２は、異常検出通知を受けると、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み終了通知以外である場合には、そのメッセージを捨てるため、ストレージシステムに悪影響を与えることはない。同様に、異常が発生していないＣＭ４４は、ＣＭ４０に係る異常検出通知を受けると、以後、異常発生ＣＭ４０から受けるメッセージを捨てるため、ストレージシステムに悪影響を与えることはない。

また、ＤＡ５０、５２は、異常検出通知を受けた以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み要求であった場合のみ、そのメッセージを受けるため、異常発生ＣＭ４０がＣＭ運用情報データをハードディスク２０、２２に書き込む処理を実行することが可能となり、ＣＭ運用情報データの書き込み処理が途中で中断されるといったことはない。さらに、異常発生ＣＭ４０に係る異常検出通知を受けたＤＡ５０、５２は、異常発生ＣＭ４０から受けたメッセージにより動作していた制御をすべて停止し、以後、異常発生ＣＭ４０から受けるメッセージがＣＭ運用情報データの書き込み要求以外である場合には、そのメッセージを捨てるため、ストレージシステムに悪影響を与えることはない。

さらに、異常発生ＣＭ４０と異常検出通知を受けたＤＡ５０，５２は、ともに異常発生ＣＭとＤＡ間の通信パスを再構築して通信を行っているため、異常発生ＣＭ４０がＤＡ５０、５２との通信を行うことができる。また、ＤＡ５０、５２がＣＭ運用情報データの書き込み要求を受け付ける準備が完了したことについて、異常発生ＣＭ４０に通知するので、この通知を受けた異常発生ＣＭ４０は、この通知のみに基づいてＣＭ運用情報データの書き込み要求をＤＡ５０、５２に対して開始することができる。そして、ＣＭ運用情報データの書き込み要求受け付け通知を受けた異常発生ＣＭ４０は、その通知を出したＤＡ５０、５２に対してＣＭ運用情報データの書き込み要求を開始することにより、ハードディスク２０、２２にＣＭ運用情報データを書き込むことができる。さらに、マスターＣＭ４２は、異常発生ＣＭ４０からＣＭ運用情報データの書き込み終了通知を受けるまでは、ＣＭ４０をストレージシステムから切り離さないため、ＣＭ運用情報データの書き込み処理が途中で中断されることはない。

ＣＭ運用情報データとしてハードディスク２０、２２に格納されたホストＩ／Ｏ制御情報や装置保守制御情報などストレージシステムを制御するために必要な情報データは、異常が発生した装置状態を明らかにするものであり、非常に有用である。例えば、このＣＭ運用情報データが、ディスクアレイ装置１０に接続した保守装置６０などを用いて採取され、ディスクアレイ装置１０から離れた場所にいる複数の技術者から解析されることにより、障害の原因を特定し易くする。これにより、障害解析が完了するまでの時間を大幅に短縮することができる。

このように、本実施形態によれば、ディスクアレイ装置１０にて障害が発生した場合に、ホストＩ／Ｏデータに影響を与えず、且つストレージシステムを停止させることなく問題発生原因に関する有用なＣＭ運用情報データを採取することが可能となり、ディスクアレイ装置１０の信頼性及び可用性を高く保ちながらも、十分にＣＭ運用情報データを採取することができる。したがって、障害発生時における原因箇所の特定や、影響範囲の認識等に要する時間を短縮することができ、従来に比べて時間及び労力を削減することができる。

なお、上記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
本発明の諸態様を付記として以下に示す。

（付記１）自装置全体の制御を行う中央制御手段と、データを格納するディスク装置と、上記ディスク装置に対するデータの読み書きに係るインタフェース制御を行うインタフェース制御手段とを有し、かつそれぞれが多重化されているディスクアレイ装置であって、
上記中央制御手段にて異常が発生した場合に、当該中央制御手段に係る運用情報データの上記ディスク装置への書き込み完了後、当該中央制御手段を自装置から切り離す切り離し制御手段を有するとともに、
上記中央制御手段は、異常が発生した場合に上記インタフェース制御手段との通信パスを再構築する第１の通信パス再構築手段を有し、
上記インタフェース制御手段は、上記中央制御手段にて異常が発生した場合に当該中央制御手段との通信パスを再構築する第２の通信パス再構築手段を有することを特徴とするディスクアレイ装置。
（付記２）上記運用情報データは、上記中央制御手段が記憶している入出力制御情報及び装置の保守制御情報を含むことを特徴とする付記１記載のディスクアレイ装置。
（付記３）上記中央制御手段は、上記ディスク装置への運用情報データの書き込みが完了したことを示す書き込み終了通知を、上記切り離し制御手段に対して通知する書き込み終了通知手段をさらに有することを特徴とする付記１記載のディスクアレイ装置。
（付記４）上記インタフェース制御手段は、上記ディスク装置への運用情報データの書き込み準備が完了した旨を示す書き込み要求受け付け通知を、異常が発生した上記中央制御手段に通知する書き込み要求受け付け通知手段をさらに有することを特徴とする付記１記載のディスクアレイ装置。
（付記５）上記書き込み要求受け付け通知手段は、上記第２の通信パス再構築手段による通信パスの再構築が完了した後、上記書き込み要求受け付け通知を通知することを特徴とする付記４記載のディスクアレイ装置。
（付記６）上記異常が発生した中央制御手段は、上記書き込み要求受け付け通知を受けた後、当該中央制御手段に係る運用情報データの上記ディスク装置への書き込み要求を上記インタフェース制御手段に対して行うことを特徴とする付記４記載のディスクアレイ装置。
（付記７）上記中央制御手段及び上記インタフェース手段は、異常が発生した上記中央制御手段に係る制御を停止する制御停止手段を有することを特徴とする付記１記載のディスクアレイ装置。
（付記８）上記中央制御手段及び上記インタフェース手段は、選択的に異常が発生した上記中央制御手段からの要求を受ける要求受信手段を有することを特徴とする付記１記載のディスクアレイ装置。
（付記９）上記中央制御手段は、異常が発生した場合に当該中央制御手段を除く上記中央制御手段に異常検出を通知する異常検出通知手段をさらに有することを特徴とする付記１記載のディスクアレイ装置。
（付記１０）自装置全体の制御を行う中央制御手段と、データを格納するディスク装置と、上記ディスク装置に対するデータの読み書きに係るインタフェース制御を行うインタフェース制御手段とを有し、かつそれぞれが多重化されているディスクアレイ装置であって、
上記中央制御手段は、自らの内部で発生した異常を検出した場合には、当該中央制御手段での異常検出を通知することを特徴とするディスクアレイ装置。
（付記１１）上記中央制御手段及び上記インタフェース制御手段は、上記異常が発生した中央制御手段に係る異常検出通知を受けた場合には、当該異常が発生した中央制御手段からの要求は所定の要求だけを受けることを特徴とする付記１０記載のディスクアレイ装置。
（付記１２）上記中央制御手段にて異常を検出した場合には、当該異常が発生した中央制御手段と上記インタフェース制御手段との通信パスを再構築することを特徴とする付記１１記載のディスクアレイ装置。
（付記１３）上記異常が発生した中央制御手段と上記インタフェース制御手段との通信パスを再構築した後、当該異常が発生した中央制御手段に係る運用情報データを上記ディスク装置に書き込むことを特徴とする付記１２記載のディスクアレイ装置。
（付記１４）上記異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込み完了後、当該異常が発生した中央制御手段を自装置から切り離すことを特徴とする付記１３記載のディスクアレイ装置。

本実施形態によるディスクアレイ装置の機能構成例を示すブロック図である。 本実施形態によるディスクアレイ装置にて異常が発生した場合の処理シーケンスを示す図である。 本実施形態における障害発生時のＣＭ運用情報データの採取方法を具体的に説明するための図である。 本実施形態における障害発生時のＣＭ運用情報データの採取方法を具体的に説明するための図である。 ディスクアレイ装置のハードウェア構成例を示すブロック図である。 図５に示したディスクアレイ装置にて異常が発生した場合の処理シーケンスを示す図である。 異常が発生したＣＭのＣＭ運用情報データをハードディスクに格納すると仮定した場合の処理シーケンスを示す図である。 異常が発生したＣＭのＣＭ運用情報データをハードディスクに格納すると仮定した場合の他の処理シーケンスを示す図である。 異常が発生したＣＭのＣＭ運用情報データをハードディスクに格納すると仮定した場合のその他の処理シーケンスを示す図である。

符号の説明

２０、２２ ハードディスク
４０、４２、４４ ＣＭ
５０、５２ ＤＡ
１０１、１１１、１２１ 異常検出・制御停止部
１０２、１３２ 通信パス再構築部
１０３、１１２ 異常検出通知部
１０４、１１４、１２２、１３５ 通信ドライバ
１０５ ＣＭ運用情報データ書き込み要求部
１０６ ＣＭ運用情報データ書き込み終了通知部
１１３ ＣＭ切り離し部
１３１ 異常ＣＭ要求制御停止部
１３３ ＣＭ運用情報データ書き込み要求受け付け通知部
１３４ データ書き込み部

Claims (10)

1. 自装置全体の制御を行う中央制御手段と、データを格納するディスク装置と、上記ディスク装置に対するデータの読み書きに係るインタフェース制御を行うインタフェース制御手段とを有し、かつそれぞれが多重化されているディスクアレイ装置であって、
   上記中央制御手段は、
   いずれか他の中央制御手段にて発生した異常を検知すると、当該異常が発生した中央制御手段の異常を上記インタフェース制御手段に通知する異常検知通知手段と、
   当該異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込みの完了通知を当該異常が発生した中央制御手段から受信すると、当該異常が発生した中央制御手段の切り離し動作を行う切り離し制御手段とを有し、
   上記インタフェース制御手段は、
   上記異常検知通知手段からの異常通知を受けると、当該異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込み準備が完了した旨を示す書き込み要求受け付け通知を当該異常が発生した中央制御手段に通知する書き込み要求受け付け通知手段と、
   上記書き込み要求受け付け通知に基づいて送信される当該異常が発生した中央制御手段に係る運用情報データを、上記ディスク装置へ書き込むデータ書き込み手段とを有することを特徴とするディスクアレイ装置。
2. 上記運用情報データは、上記異常が発生した中央制御手段が記憶している入出力制御情報及び装置の保守制御情報を含むことを特徴とする請求項１記載のディスクアレイ装置。
3. 上記中央制御手段は、自己に異常が発生した場合に上記インタフェース制御手段との通信パスを再構築する第１の通信パス再構築手段を有し、
   上記インタフェース制御手段は、上記中央制御手段にて異常が発生した場合に当該異常が発生した中央制御手段との通信パスを再構築する第２の通信パス再構築手段を有することを特徴とする請求項１記載のディスクアレイ装置。
4. 上記第１の通信パス再構築手段は、上記インタフェース制御手段とのデータ通信の経過を記憶する記憶手段の初期化処理を行うことを特徴とする請求項３記載のディスクアレイ装置。
5. 上記書き込み要求受け付け通知手段は、上記第２の通信パス再構築手段による通信パスの再構築が完了した後、上記書き込み要求受け付け通知を通知することを特徴とする請求項４記載のディスクアレイ装置。
6. 上記異常が発生した中央制御手段は、上記書き込み要求受け付け通知を受けた後、当該異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込み要求を上記インタフェース制御手段に対して行うことを特徴とする請求項１又は５記載のディスクアレイ装置。
7. 上記中央制御手段及び上記インタフェース制御手段は、上記異常が発生した中央制御手段に係る制御を停止する制御停止手段を有することを特徴とする請求項１〜６の何れか１項に記載のディスクアレイ装置。
8. 上記中央制御手段及び上記インタフェース制御手段は、選択的に上記異常が発生した中央制御手段からの要求を受ける要求受信手段を有することを特徴とする請求項１〜７の何れか１項に記載のディスクアレイ装置。
9. 上記中央制御手段は、異常が発生した場合に当該異常が発生した中央制御手段を除く上記中央制御手段に異常検出を通知する異常検出通知手段をさらに有することを特徴とする請求項１〜８の何れか１項に記載のディスクアレイ装置。
10. 自装置全体の制御を行う中央制御手段と、データを格納するディスク装置と、上記ディスク装置に対するデータの読み書きに係るインタフェース制御を行うインタフェース制御手段とを有し、かつそれぞれが多重化されているディスクアレイ装置の制御方法であって、
    上記中央制御手段が、いずれか他の中央制御手段にて発生した異常を検知すると、当該異常が発生した中央制御手段の異常を上記インタフェース制御手段に通知する異常検知通知工程と、
    上記インタフェース制御手段が、上記異常検知通知工程で通知された異常通知を受けると、当該異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込み準備が完了した旨を示す書き込み要求受け付け通知を当該異常が発生した中央制御手段に通知する書き込み要求受け付け通知工程と、
    上記インタフェース制御手段が、上記書き込み要求受け付け通知に基づいて送信される当該異常が発生した中央制御手段に係る運用情報データを、上記ディスク装置へ書き込むデータ書き込み工程と、
    上記中央制御手段が、当該異常が発生した中央制御手段に係る運用情報データの上記ディスク装置への書き込みの完了通知を当該異常が発生した中央制御手段から受信すると、当該異常が発生した中央制御手段の切り離し動作を行う切り離し工程とを有することを特徴とするディスクアレイ装置の制御方法。

Images